你肯定有过这种经历：账户被暂停、退款申请被拒绝，或者你明明已经取消了订阅，却仍然被收取费用。.
于是你访问公司网站寻求帮助，结果发现是一个聊天机器人。它提供的菜单中没有你遇到的情况。也没有与真人客服通话的选项。最终你放弃了。.
自2023年初以来，澳大利亚人已向 提交了1780起关于在线零售商、市场平台、搜索引擎和社交媒体平台的投诉 。2025年的投诉量比上一年增加了20%。
账户访问问题 是最常见的问题，其次是费用纠纷。超过七成的纠纷都涉及五家公司：Meta、谷歌、微软、苹果和Hubbl。
遗憾的是，所有向电信行业监察专员提出的关于在线服务的投诉都超出了其管辖范围。现有的任何监察专员机制都无法就此类投诉做出具有约束力的裁决。.
我们需要一个能够处理这些投诉的纠纷解决机制，而且这方面已有先例。.
数字问题给经济带来损失
消费者 政策研究中心 发现，五分之四的澳大利亚人在过去一年中遇到过数字服务问题，而未解决的问题每年造成的损失估计高达4.97亿澳元。三分之二的投诉者最终仍不满意。
最不满意的是人们认为自己有权获得的退款（84%），其次是无法联系到可以提供帮助的人（83%）。.
该中心表示，当人们向在线企业和平台投诉时，许多人不得不面对虚拟客户服务门户和人工智能聊天机器人，这些门户和机器人要么没有帮助，要么不提供解释，要么提供不准确的建议。.
谁来处理这些投诉？
政府的 防诈骗框架 提供了一个范例。该框架要求银行、电信公司和全球数字平台在9月1日前加入由 澳大利亚金融投诉局 。
然而，该方案仅限于诈骗，并不涵盖上述账户或平台问题。.
根据欧洲《 数字服务法》，平台必须建立完善的投诉处理流程，且决策不能完全由机器做出，必须由合格人员监督。如果平台仍然做出错误决定，用户可以将争议提交给政府认可的独立机构，该机构必须在90天内做出裁决。
例如，欧洲申诉中心（Appeals Centre Europe）这一争端解决机构已对 1500 起争端作出裁决， 推翻了超过四分之三 的平台最初的决定。
或许人工智能可以成为解决方案的一部分。
任何涵盖在线平台的纠纷解决机制都会面临大量类似问题的案件。而聊天机器人和人工智能或许能够成为解决这一问题的关键。.
不列颠哥伦比亚省民事纠纷解决法庭通过交互式 解决方案探索器，这是一个基于规则的聊天机器人，它会提出预设问题，并根据预设规则返回定制信息，然后再由任何人类决策者介入。
我和我的同事在 《新南威尔士大学法律杂志》，比较了基于规则的聊天机器人和生成式人工智能聊天机器人，看看它们如何帮助人们处理小额索赔。
生成式人工智能能够提供个性化和有针对性的响应，这确实很有吸引力。.
但生成式人工智能也会 产生幻觉，自信地捏造出根本不存在的法律规则和案例。即使它没有捏造信息来源，也能提供极具说服力但完全错误的建议。
这种风险最严重地落在了这些系统旨在帮助的人群身上。请不起律师的消费者也最难察觉人工智能何时篡改了法律。而且这种错误是隐形的：如果被告知自己没有索赔权，你只会选择离开，而没有人会知道。系统不会收到任何反馈，也不会将错误告知系统。.
设计正确
维多利亚州法律改革委员会在其关于维州法院人工智能应用的报告中阐述了合理的原则，其中包括一项明确的建议：人工智能绝不能做出最终决定，最终结果必须由人来决定。
任何新的解决方案在整合人工智能工具之前，必须决定使用哪些工具、用于哪些功能以及采取哪些保障措施来降低潜在风险。.
人们现在使用的聊天机器人并没有故障。它们完全按照设计运行——为开发它们的在线公司服务。.
澳大利亚很少有机会从零开始设计纠纷解决机制，而现在它正在构建一个这样的机制，作为其防诈骗框架的一部分。.
技术最终是服务于消费者还是阻碍消费者，这并非人工智能的问题，而是系统的设计初衷，以及最终是否总有人可以求助的问题。.
Vivi Tan ，皇家墨尔本理工大学法学讲师。本文经知识共享许可协议转载自The Conversation 。阅读原文。
