去年，我参加了一个关于生成式人工智能在教育领域的专题讨论。一个让我印象深刻的瞬间，一位演讲者问道：“这有什么大不了的？生成式人工智能就像计算器一样，只是个工具而已。”
这种类比越来越常见。OpenAI 首席执行官 Sam Altman 本人曾将 ChatGPT 称为“文字计算器”，并将人们对这项新技术的评论与人们对计算器到来的反应进行了比较
人们说：“我们必须禁止这些，因为人们只会在作业上作弊。如果人们不再需要手动计算正弦函数[...]那么数学教育就完了。”
然而，生成式人工智能系统并非计算器。将它们视为计算器会模糊它们的本质、功能以及服务对象。这种简单的类比简化了一项备受争议的技术，并忽略了它与以往技术的五个关键区别。
1. 计算器不会产生幻觉或说服
计算器根据明确定义的输入进行函数计算。你输入 888 ÷ 8，会得到一个正确答案：111。
此输出是有限的且不可更改的。计算器不会推断、猜测、产生幻觉或说服。
他们不会在答案中添加虚假或不必要的内容。他们不会捏造案件，也不会告诉人们“请去死”。
2. 计算器不会引发根本性的伦理困境
计算器不会引发根本的道德困境。
ChatGPT 的开发需要肯尼亚的工作人员每小时花费一两美元筛选那些令人难以忘怀的创伤内容。计算器则不需要这么做。
剥削性的雇佣模式抢占廉价劳动力。计算器也不需要这样做。
计算器不需要建造大型新发电厂世界上一些最干旱地区的与人类争夺水资源。
计算器行业不需要新的基础设施利阿塔卡梅尼奥斯地区那样，经历着大规模的采矿热潮，推动着人们对铜和锂资源的疯狂开采。
3. 计算器不会损害自主性
计算器不可能成为“生活的自动完成器”。它们从不主动为你做所有决定，从吃什么、去哪里旅行到何时亲吻你的约会对象。
计算器并没有挑战我们的批判性思考能力。然而，生成式人工智能已被证明会削弱独立推理能力，并增加“认知负担”。随着时间的推移，对这些系统的依赖可能会将日常决策权交到不透明的公司系统手中。
4. 计算器没有社会和语言偏见
计算器无法重现人类语言和文化的等级制度。然而，生成式人工智能的训练数据反映了数百年来不平等的权力关系，其输出也反映了这些不平等。
语言模型继承并强化了主流语言形式的地位，同时排除或消除了地位较低的语言形式。
ChatGPT 等工具可以处理主流英语，但经常改写、错误标记或删除其他世界英语。
尽管项目试图解决少数群体声音被排除在技术发展之外的问题，但生成人工智能对主流英语的偏见却令人担忧地明显。
5. 计算器并非万能机器
与计算器不同，语言模型并不局限于数学这样的狭窄领域。相反，它们有可能融入感知、认知、情感和互动等方方面面。
语言模型可以是“代理”、“同伴”、“影响者”、“治疗师”和“男朋友”。这是生成式人工智能与计算器之间的关键区别。
计算器可以辅助算术运算，而生成式人工智能则可以兼具事务性和交互性。聊天机器人可以帮你编辑小说、编写新应用代码，甚至还能提供你心仪对象的心理档案
保持批判性
计算器的类比让语言模型以及所谓的“副驾驶”、“导师”和“代理”听起来无害。它允许人们不加批判地采用这些技术，并暗示技术可以解决我们社会面临的所有挑战。
它也非常适合开发和分发生成式人工智能系统的平台。一个中立的工具不需要问责、审计和共同治理。
但正如我们所见，生成式人工智能并不像计算器，它并非简单地处理数字或产生有限的输出。
理解生成式人工智能的真正含义需要严谨的批判性思维。这种思维使我们能够应对“快速发展并破坏事物”的后果。这种思维能够帮助我们判断这种破坏是否值得付出代价。
Celeste Rodriguez Louro 西澳大学
副教授、语言学系主任兼语言实验室主任。本文转载自《对话》（The Conversation） ，并遵循知识共享许可协议。阅读原文。
