AI 到底能不能成为 “人”，又会成为这样的“人”？

sowang

@零重力瓦力

AI 到底能不能成为 “人”？这个问题让无数哲学家、科幻作家、科学家们苦苦思索了几十年。如今 AI，特别是大语言模型，越来越像人类，有时候甚至让人分不清对面到底是 “人”还是 “机器”。

早在几十年前，阿西莫夫就为机器人设计了三大法则（后来增加了第四条），第一条便是，“机器人不能伤害人类”。然而，现实中，这些法则早已被不断打破！现在的 AI 虽然不会像电影里那样举起武器，但在现实生活中，它的 “失误” 同样会带来巨大风险，例如在工厂出错，或者在医疗建议上出现 “幻觉”，甚至建议成瘾者继续用药。这些并不是 AI 有意为之，而是源于数据或代码中的漏洞，但它们的确在影响人的生活。

来自 King's Colleage School 的一名八年级学生 Saam 在 Ted 演讲中，更是提到了一个令人警醒的问题。他认为，AI 是按人类的样子 “训练” 出来的，也就不可避免地带上了人类自身的缺点。例如全球最大的一款聊天机器人就被曝出，曾大量散播仇恨言论。或许就是把我们人类自身的某些负面情绪和思想在大语言模型训练过程中，“喂” 给了系统。

未来，AI 几乎必然会成为像空气一样不可或缺的存在。它的影响力会远远超过车轮、印刷术这些历史上的伟大发明。它可以帮我们处理信息、解决问题，甚至帮我们实现梦想。但如果我们不设定一个边界，不思考AI和人的区别在哪里，很可能会在 AI 身上放大我们自身的缺陷，甚至让 AI 成为我们 “错误” 的放大器。

Saam 在演讲的结尾提出了一个思考。与其让 AI 变得和我们一模一样，不如让它成为我们理想中的 “更好的人”。毕竟，技术是工具，怎么用、用成什么样，终究还是我们说了算！



视频：AI 到底能不能成为 “人”？
https://weibo.com/tv/show/1034:5231043746398230?from=old_pc_videoshow&mark_id=999_reallog_mark_ad%3A999%7CWeiboADNatural