手记 04
真正的问题,在木马成功之后才开始
我们总把“做到了”当成故事的结尾;《奥德赛》却把它当成开始。
AI 与责任技术与人电影与思考

看完 Nolan 的《奥德赛》,我一直在想木马。Nolan 最近把 AI 比作一匹透明的木马:所有人都看得见里面的希腊人。但更有意思的其实是木马之后。木马完成了任务,特洛伊陷落;然后电影才把问题留给奥德修斯:他如何面对胜利的代价,又如何回家。
我们谈 AI,也太爱问第一个问题:它能不能写、画、编码,把工作做完?这并不是说 AI 注定会毁掉什么,而是 capability 从来不是故事的结尾。一个系统越有效,第二个问题越重要:代价由谁承担,使用它的人又保留了什么判断和责任?
也许 AI 真正的考验,不是它能不能帮我们攻下一座城,而是成功以后,我们是否仍知道怎样回家。技术可以完成目标;只有人能回答,这个目标留下的世界是否值得生活。
