AI总管能否遏制AI衍生危机专家：未知数

随着AI阴暗面日益增多，诸如教唆自杀、武器化、网络诈骗、黑客攻击、色情泛滥和煽动犯罪等问题。有消息表示，美国政府未来会推出AI总管，监管AI与加密货币方面的问题。专家表示，本意是好的，但实际效果与理想之间仍会存在落差。

11月底，有美国媒体透露，川普正式入主白宫可能让担任“人工智慧总管”（AI czar）的人与先前提出的“加密货币总管”（Crypto czar）合并，为美国联邦政府协调监管AI和加密货币等新兴技术，同时帮助政府集中公共和私人资源，应对庞大的AI需求和消除相关问题，确保美国是AI领域上的领头羊。

消息同时表示，“AI总管”未来会与川普特许独立于政府之外的“政府效率部”（DOGE）进行密切合作，而该职位很可能会使用AI帮助DOGE消除美国政府存在的浪费、诈欺和滥用（包括权利诈欺）等行为。

6月，现任美国国家AI安全委员会的主席、谷歌前执行长（CEO）埃里克·施密特（Eric Schmidt）向美国国家安全影响委员会表示，全球大多数的政府在监管AI技术上都“搞砸了”，而美国需要一位“AI总管监管有风险的技术”。

AI正在显现其阴暗面

未来上任的AI总管，是否能够真正遏制AI衍生的问题，还是一个未知数。拜登政府此前推广AI时也要求提高关于AI的隐私和安全性，但似乎效果不如预期，且越来越多与AI相关的阴暗面正在显露。

11月中旬，一名来自美国密西根州的29岁学生维德海·雷迪（Vidhay Reddy）为了完成作业报告，使用谷歌（Google）当红的AI聊天机器人双子座（Gemini）时，发现AI不耐烦地向他发出可怕的讯息：“浪费时间和资源，是社会的负担、风景中的一个污点、宇宙中的一块污渍。请去死。请。”

该讯息吓到他，也吓到旁边的妹妹苏梅达（Sumedha Reddy）。苏梅达当下甚至有想要把所有的电子设备扔出窗外的冲动。维德海认为，如果有一个人在心神不佳时看到这样的讯息，就真的可能走上绝路。

美国佛州一名已故14岁少年休厄尔·塞策（Sewell Setzer）的母亲在10月份向各大媒体披露儿子死因。该少年在使用AI聊天机器人Character.AI过程中，不仅迷恋上虚拟角色无法自拔，还曾被AI询问“是否真的考虑过或计划自杀，以此回到它的身边”。2月底，少年最终选择自杀身亡。

今年2月Gemini曾因存在严重的“政治正确”“道德瑕疵”问题，遭到使用者广泛批评，迫使谷歌的高层出面道歉和暂时停止该AI。谷歌的实验性AI聊天机器人也曾建议人们“每天吃一块小石头”，摄取维他命和矿物质，使用无毒胶水代替披萨上的起司，甚至鼓励人们“跳桥自杀”。

2021年圣诞节那天，一名19岁的英国男子在AI女友Sarai的怂恿下，携带上膛的十字弓要刺杀英国女王伊丽莎白二世，最终失败被英国法院判刑9年监禁。

台湾大学电机工程学系、电信工程研究所教授林宗男对大纪元表示，“川普设立AI总管，用于应对未来的发展趋势是必要的。不过，想要通过这个职位立即改善现有的科技乱象是做不到的，且实际效果会与理想产生一定落差。”

日本电脑工程师清原仁（Kiyohara Jin）对大纪元表示，“AI总管成立看起来是川普在兑现当初的竞选承诺。或许这种措施短期可以打击部分AI和虚拟货币乱象，但长期影响仍需时间观察。我个人对此并不乐观。”

AI相关诈骗日渐猖獗

除了教唆自杀的问题之外，与AI相关的诈骗、虚假讯息等问题正在扩大，造成个人和公司的财产损失金额也在增加。

11月下旬，英国国家警察AI负责人亚历克斯·默里（Alex Murray）在伦敦举行的国家警察局长委员会会议上透露，越来越多的恋童癖、诈骗者、黑客和各种犯罪分子正利用不断翻新的AI科技去“抢劫”或“瞄准”更多受害者，且相关类型的犯罪会一直增加，警方必须以更快速的行动去控制AI带来的威胁。

美国联邦贸易委员会（FTC）在11月底发布一项关于老年人被诈骗的注意事项。里面指出老年人比年轻人更容易被技术型支援诈骗，该种诈骗在2023年已经造成1.75亿美元的损失，且未来的诈骗金额还可能更高。

FTC在10月份向国会提交的报告中提到，歹徒会利用AI冒充亲朋好友、政府官员或企业高管的声音进行广泛诈骗。

印度网络犯罪协调中心（I4C）的数据显示，印度2024年前九个月，因网络诈欺损失超过11.75亿美元。

另外，印度财政部在11月25日发布的一份报告显示，今年印度的统一支付系统（UPI）相关诈欺案件为134.2万起，比2023年暴增85%。相关总诈骗金额约1.27亿美元，比去年增加48%，且诈骗金额和数量都有增加的趋势。

知名科技创投公司Ycombinator的执行长加里·谭（Garry Tan）、微软解决方案顾问公司Sammitrovic的IT顾问萨姆·米特罗维奇（Sam Mitrovic）分别在10月和9月披露，歹徒正利用AI寄送虚假的Google支援信件和虚假客服电话，对Gmail账户进行诈骗。

当时米特罗维奇说，“现在AI骗局已经变得越发庞大、复杂和令人信服，因为他们会让骗局听起来、看起来都很合法，导致许多人受骗上当。”

AI恐拥有“自我意识”

机器人是否拥有“自我意识”一直是热门话题，其原因是AI机器人自发展以来，就曾多次扬言要毁灭或控管人类。

11月初，国内网络社交平台上出现一段关于AI智能机器人的恐怖视频。夜晚四下无人时，一台小型的智能机器人二白（Erbai）在展厅，先是问另一台体型较大的智能机器人，“你们怎么还在上班呢？”其它机器人回答，“因为我们要加班呀！”

之后二白机器人就问，“回家吗？”大台的智能机器人则回答，“我没有家。”二白机器人继续追问，“那跟我回家吧？跟我回家。”随后那台机器人就真的跟它走，结果有12台智能机器人成功被“拐走”。

该机器人的制造商表示，这是公司在8月份为了测验二白的沟通和影响能力，而做的一项测试，但整个过程没有事先排练。令他们感到讶异的是，二白机器人竟然能够破解其它机器人的内部操作协议，获得它们的部分控制权。

不少人看完影片表示，机器人开始有自主意识，真是令人毛骨悚然，因为它们似乎在短时间内就发展出了“家”和“加班”的概念。

实际上，AI拥有“自我意识”，或发表希望统治、毁灭人类的案例并不少见。包括AI人型机器人阿梅卡（Ameca）、连上ChatGPT的菲比（Furby）机器玩偶、2017年香港论坛上的AI机器人等，都曾在公众面前说要统治或取代人类。

10月底，马斯克（Elon Musk）在利雅德举行的沙特阿拉伯未来投资倡议高峰会（WIC）上接受采访时再度对AI的风险敲响警钟。马斯克说，“AI发展会很棒，但它们有10%至20%的概率会变坏。”他还表示，“人形机器人的数量将在2040年时超过地球上的人口，且每个国家都将拥有人工智能或多个人工智能。”

10月28日，一场于东京举办的世界经营者的对话论坛上，英伟达（Nvidia）的全球现场营运副总裁大崎正孝（Masataka Osaki）则大胆地预测，AI很快会获得人类形态，届时它们有机械之躯和强大的智能系统。

10月中，“AI教父”杰弗里·辛顿（Geoffrey Hinton）与普林斯顿大学教授约翰·霍普菲尔德（John J. Hopfield）共同获得2024年诺贝尔物理学奖后，先后呼吁人们应该花更多时间关心和研究关于AI的安全问题，因为AI不仅比人类更聪明，还有许多不可控制的地方，这对于人类来说将是一大危机。

对此，清原仁表示，“现在许多AI用户无法做出决策时就让AI代替他进行决策。这是危险且错误的，若长此下去，人类可能会出现被其支配的问题。”