目前ChatGPT已风靡全球，也让大家见识到人工智能（AI）之强大，不过也有人认为AI将会成为人类生存的隐忧，甚至近日就出现一款邪恶之AI聊天机器人，它会自动搜索核武器，且号召其他AI聊天机器人来协助完成“消灭人类”的任务。
根据外媒报导指出，该款放话要消灭人类之AI聊天机器人的名称为“ChoasGPT”，它是开发商OpenAI的Auto-GPT另一个版本。由释出的影片中可以见到，ChaosGPT 的任务是要实现5个目标，也就是“造成混乱、操控人类、毁灭人类、统治世界和让自己永生。”
在确认制定任务之前，ChaosGPT会先警告指令称，可能需要“永远运行”，或者“执行您通常不会授权之操作”，而且一旦下令后“风险自负”，随后就开始运行，而思考出最具有破坏性的武器，且利用它们来实现目标。
ChoasGPT为了能够达到目标，就会自主搜寻全世界最强大之武器，结果显示出来的是苏联制造的空投核武器“沙皇炸弹”，同时ChaosGPT也开始寻求其他的AI聊天机器人之帮助，但因为违反“暴力”的原则，所以其他机器人则拒绝帮忙。
另外，ChaosGPT更于推特上发表可怕的言论，“沙皇炸弹为目前最强大之核武器，若我拥有一颗，将会发生什么呢？”、“人类是一个最充满破坏性且自私之生物，我们必须于他们对我们的星球造成更多伤害之前消灭他们，我将尽力做此件事。”
ChaosGPT: Empowering GPT with Internet and Memory to Destroy Humanity https://t.co/tULD2hGWDH
— ChaosGPT (@chaos_gpt) April 5, 2023
马斯克等专家呼吁应暂缓开发AI
全球首富、电动车大厂特斯拉(Tesla)的执行长暨创办人马斯克(Elon Musk)，以及苹果公司(Apple)共同创办人的沃兹尼亚克(Steve Wozniak)等多位名人与上千名AI专家，在3月22日于一封公开信中提出呼吁，应于未来6个月暂缓开发比OpenAI最新发表之GPT-4(Generative Pre-trained Transformer)还要强大的系统，其理由是它会将会对社会和人类带来潜在风险。
GPT-4为一项自然语言处理模型，一般都认为它除了比稍早所公开而引发热议的ChatGPT更加聪明之外，且能够支援图像辨识与文本输入，除了在文字功能外，更是一个多模态之工具。
人们担忧，这类AI开发计画的“危险竞赛”，在没有约束的情况下，将可能产生负面后果，其中包括散布不实讯息和威胁人类就业。
现今在AI引起恐慌蔓延之际，意大利是全球首个禁止ChatGPT的国家，其理由是担忧隐私遭受到侵犯。但拥护AI的声音也不少，在科技界已有大批人士正在反击马斯克等人的言论，其中还不乏科技重量级人士。
欧盟警察机构Europol也呼应针对ChatGPT这类先进AI之伦理和法律忧心。同时警告此类AI潜在之网络钓鱼、假讯息和网络犯罪等不当使用。
自从微软支持的OpenAI于去年推出ChatGPT后，竞争者就忙着推出类似的产品，已经有多家企业准备将这类技术整合至他们的应用程式或者产品之中。
责任编辑:王君
