上周五，美国社会保障署推出了一款名为“机构支持助手”（Agency Support Companion）的新型聊天机器人，该机器人基于 ChatGPT 技术。这款工具旨在帮助员工处理日常事务，提高工作效率。然而，员工们反映它几乎无法正常工作，而此次糟糕的上线也让许多人质疑，自动化对于美国最大的社会服务机构来说是否是正确的发展方向。.
近几个月来，马斯克的狗狗银行（内部代号DOGE ）通过裁员和削减预算，大幅缩减了联邦机构的规模。其推行的“人工智能优先”模式旨在尽可能用软件取代人工。据报道，作为该战略的一部分，新的聊天机器人已被整合到各机构员工的日常工作流程中，旨在减轻他们的工作负担。
一封内部邮件将其描述为“帮助员工处理日常任务并提高生产力”的一种方式，但实际上，该应用程序并未受到太多关注。.
该机构内部人士透露，此次推广活动附带了一段糟糕透顶的培训视频，视频中出现了一个动画效果很差、只有四根手指的女性角色。这段视频本意是引导用户了解应用程序的各项功能，但却未能提醒员工不要上传敏感的个人数据。这一疏忽迫使该机构不得不发送后续邮件，内容为“对于培训视频中的疏忽，我们深表歉意”，以提醒员工注意相关风险。.
很少有人认真对待SSA AI培训视频。
一位社保局员工告诉《连线》杂志：“我不确定我的大多数同事是否看过培训视频。” 他们还补充说，在测试聊天机器人时，“我收到的几个回复都非常含糊不清，甚至不准确。” 据报道，其他员工也嘲笑其粗糙的画面。“我认识的人里没人用它。它太笨拙、太糟糕了。”这位消息人士说道。.
批评人士警告说，这种磕磕绊绊的开局可能预示着更大范围的失败。.
同样，在巴西，一家名为Dataprev的国有企业于2018年推出了Meu INSS应用程序，该程序利用计算机视觉和自然语言处理技术来处理社会保障申请。然而，该系统经常因一些小错误而拒绝有效的申请，从而引发漫长的法律诉讼。.
其中一个例子是55岁的乔塞莉娅·德·布里托，她曾是一名甘蔗工人，她的退休申请被拒，原因是自动系统错误dent识别了她的性别。“我有所有证明我健康状况的文件，证明一切，但（福利）还是被拒绝了。这太屈辱了，”她告诉《世界其他地区》杂志。.
许多缺乏基本数字技能的农村农场工人难以适应向线上服务的转变。“这里的人甚至连Gmail、Facebook和Instagram都不会用，”巴拉杜科尔达农村工人联盟dent 弗朗西斯科·桑塔纳说道。“流程越来越自动化，但社会并没有为此做好准备，尤其是在偏远的农村地区。”
海外的这些障碍凸显了美国可能面临的潜在风险。.
社会服务已经面临“现代化”的压力，而这一推动始于特朗普政府所谓的“技术官僚”团队。.
马斯克的狗狗币（DOGE）更进一步，计划将联邦政府雇员人数削减一半。“所有能用机器自动化完成的工作都将实现自动化。技术官僚将取代官僚，”一位知情人士告诉《华盛顿邮报》。.
狗狗币对自动化的过分强调，反而造成了混乱，而不是提高了效率。.
美国社会保障署（SSA）最近发生的一起事故凸显了问题的严重性。据报道，州政府雇员福利办公室（DOGE）的工作人员将“无数”在世的福利领取者标记为“死亡”，导致他们的福利金被停止发放。该机构资深理赔技术分析师雷尼·格拉斯哥（Rennie Glasgow）在接受《每日野兽报》（The Daily Beast）采访时表示：“大约有400万人被标记为死亡。他们给我们发邮件说，‘如果这些人带着dent证明来办公室，你们可以恢复他们的福利。’”格拉斯哥补充说，恢复福利的过程可能需要“大约三到四天”，因为工作人员必须手动在系统中“复活”每个领取者。.
除了停止发放福利外，狗狗银行还计划在几个月内重写美国社会保障署（SSA）的整个软件代码库。消息人士称，为了按时完成这项任务，团队几乎肯定会依赖人工智能进行编码，而机器生成的代码错误率很高，因此这种做法需要严格的监管。
鉴于狗狗币迄今为止坎坷的走势，自动化改革可能会带来更大trac混乱。
一些观察人士怀疑这些错误可能是故意的。一部分批评人士认为，狗狗币的目标并非真正的改革，而是为了破坏社会保障署（SSA）的稳定，从而为私有化铺平道路。如果真是如此，那么这些失误和混乱或许正是马斯克团队所希望看到的。
