共和黨議員在新科技「閉門演示」後驚恐不安，演示「展示了如何綁架一名議員」

據Punchbowl News週五報導，一名知名共和黨眾議員在近期一場「閉門演示」中首次接觸到一項新技術後，感到「害怕」——這名議員警告稱，他的大多數同僚都未能理解這項技術的深遠影響。

這項技術是Claude Mythos，由Anthropic利用生成式人工智慧開發的最新大型語言模型，其能力之強大，使得川普政府暫停了外國人對其的使用，實際上在短期內封鎖了其公開發布。

「[Anthropic] 指示模型找出某銀行的漏洞並清空帳戶，然後它就真的去做了，」眾議員Andrew Garbarino（共和黨，紐約州），即眾議院國土安全委員會主席，在接受Punchbowl News採訪時表示。「[Mythos] 隨後還能找到這個漏洞並加以修復。」

除了Mythos顯而易見的清空銀行帳戶能力之外，Anthropic還展示了其最新技術更為惡意的用途。

「某個未指明的模型在30秒內展示了一份綁架議員的詳細計劃，」Punchbowl News的報導寫道，這是對Garbarino發言的轉述。「Garbarino表示，不法分子可以入侵這些模型，並利用它們攻擊關鍵基礎設施，並指出AI的自主行動能力將允許模型在無需人工提示的情況下自行採取行動。」

Garbarino列舉了他擔心那些能夠使用Mythos的人可能採用的具體例子，警告稱個人可以「關閉這條天然氣管道」或「增加」社區供水中的「氯含量」，而這一切都可以從個人家中完成。

「你不僅有能力學習如何去做，還能直接指示它替你去做，」Garbarino告訴Punchbowl News。「我敢說，我95%的同僚都不明白到底發生了什麼事。」

儘管川普政府實際上已在短期內封鎖了Mythos的公開發布，但總統唐納·川普去年12月簽署的一項行政命令限制了各州監管這項新興AI技術的能力，該命令禁止各州自行立法監管此技術。