AI已有自主思想和行为

AI已有自主思想和行为

这次实验不仅让人背脊发凉，还可以说对人类敲响了AI可能引发致命战争的警钟。不过，这也不是AI首次被发现为了赢得胜利而出现严重的暴力倾向。例如，去年5月底美国空军进行AI空战模拟实验时，发现一架负责摧毁敌方设施的AI无人机，拒绝操作员中止任务的命令，还透过“杀害”操作员完成任务。

另外，斯坦福大学在去年发表了一篇关于让ChatGPT进行人物模拟测试的论文。测验结果显示AI已经完全有了自主性。实验中，ChatGPT和自定义代码控制25个角色井然有序地各司其职，还能让角色进行像人类一样的互动。

这些由AI扮演的角色不仅能够相互关注发起对话，还会计划第二天的事情，对过去发生的事情进行反思以做出改进，更会自行找理由或借口决定是否要参加活动，但这些行为并非原本设定的程序代码。

除此之外，先前有人对ChatGPT进行诱导方式，成功让它写下详细的“毁灭人类计划”和“毁灭代码”，且还有研究人员发现AI并非中立，而是有带有强烈的极左价值观和明显的政治偏见。

日本电子工程师李济心在2月10日告诉大纪元，“这些实验凸显现在训练AI都是为了战胜对方，且AI还出现了思想。因此，将生杀大权交给没有人性和道德的AI，这只会让世界陷入危险之中，其结果对人类来说是致命的。”