去年我参加了一个关于生成式人工智能在教育领域应用的研讨会。会上，一位发言者问道：“这有什么大不了的？生成式人工智能就像计算器一样，它只是一种工具而已。” 这句话令人印象深刻。
这种类比越来越常见。OpenAI 首席执行官 Sam Altman 本人就曾将 ChatGPT 称为“文字计算器”，并将作人们对计算器问世的反应。
人们说：“我们必须禁止这些，因为人们会用它们来作弊。如果人们不再需要手动计算正弦函数，那么数学教育就完了。”
然而，生成式人工智能系统并非计算器。将它们视为计算器会掩盖它们的本质、功能以及服务对象。这种简单的类比简化了这项备受争议的技术，并忽略了它与以往技术的五个关键区别。.
1. 计算器不会产生幻觉或说服他人。
计算器根据明确定义的输入计算函数值。你输入 888 ÷ 8，就会得到一个正确答案：111。.
此输出结果有界且不可更改。计算器不会进行推断、猜测、产生幻觉或说服。
他们不会在答案中添加虚假或不必要的内容。他们不会捏造法律案件，也不会叫人“去死”。
2. 计算器并不构成根本性的伦理困境
计算器不会引发根本性的伦理困境。.
制作 ChatGPT 需要肯尼亚的工人筛选那些会造成不可逆转的心理创伤的内容，而他们的时薪只有一两美元。计算器则不需要这样做。
剥削性雇佣模式攫取廉价劳动力的机会。计算器行业也不需要这种模式。
计算器不需要建造大型新发电厂世界上一些最干旱的地区与人类争夺水资源。
生产不需要新建基础设施利阿塔卡梅诺人居住的地区那样，经历大规模的采矿热潮，从而导致铜和锂的疯狂开采。
3. 计算器不会损害自主性
人生自动补全的潜力。它们从未主动提出替你做所有决定，从吃什么、去哪里旅行到何时与约会对象接吻。
计算器并没有挑战我们的批判性思维能力。然而，生成式人工智能已被证明会削弱独立推理能力，并加剧“认知卸载”。随着时间的推移，对这些系统的依赖可能会将日常决策权交到不透明的企业系统中。
4. 计算器不存在社会和语言偏见。
计算器无法再现人类语言和文化的等级制度。然而，生成式人工智能却基于反映数百年不平等权力关系的数据进行训练，其输出结果也反映了这些不平等现象。.
语言模型继承并强化了主流语言形式的威望，同时边缘化或抹杀了地位较低的语言形式。.
ChatGPT 等工具可以处理主流英语，但经常会改写、错误标记或删除其他世界英语。
虽然一些项目试图解决技术发展中少数群体声音被排除在外的问题，但生成式人工智能对主流英语的偏好却令人担忧地明显。
5. 计算器并非“万能机器”
与计算器不同，语言模型并非局限于数学等狭窄领域。相反，它们有可能渗透到所有方面：感知、认知、情感和互动。.
语言模型可以扮演“代理”、“伙伴”、“影响者”、“治疗师”和“男朋友”的角色。这是生成式人工智能和计算器之间的一个关键区别。.
计算器可以帮助我们进行算术运算，而生成式人工智能则可以同时胜任事务性和交互性功能。只需一次操作，聊天机器人就能帮你修改小说、编写新应用的代码，还能为你心仪的对象提供详细的心理分析。
保持批判性思维
用计算器作比喻，会让语言模型以及所谓的“副驾驶”、“导师”和“代理”听起来无害。这种比喻让人可以不加批判地接受这些概念，并暗示技术可以解决我们社会面临的所有挑战。.
它也完美适用于那些开发和分发生成式人工智能系统的平台。中立的工具无需问责、无需审计、无需共同治理。.
但正如我们所看到的，生成式人工智能并不像计算器。它不仅仅是进行数字运算或产生有限的输出。.
要真正理解生成式人工智能的本质，需要严谨的批判性思维。这种思维能够帮助我们直面“快速行动、打破常规”所带来的后果，并判断这种“打破常规”的代价是否值得。
西澳大利亚大学
语言学系副教授、系主任兼语言实验室主任塞莱斯特·罗德里格斯·卢罗经知识共享许可协议授权转载自The Conversation 原文。
