Ads
茉莉花園
Gemini AI tells the user to die — the answer appeared out of nowhere when the user asked Google's Gemini for help with his homework
https://www.tomshardware.com/tech-industry/artificial-intelligence/gemini-ai-tells-the-user-to-die-the-answer-appears-out-of-nowhere-as-the-user-was-asking-geminis-help-with-his-homework
https://www.tomshardware.com/tech-industry/artificial-intelligence/gemini-ai-tells-the-user-to-die-the-answer-appears-out-of-nowhere-as-the-user-was-asking-geminis-help-with-his-homework
Ads
Neutral
當有一日, AI進化到有超越人類既智慧
而且可以完全適應現實世界既物理環境 , 令自己可以保持永生
再加上高級版 3D print 不斷自我繁殖搞生產搞建設
到時人類真係客觀上應該被AI取代
而且可以完全適應現實世界既物理環境 , 令自己可以保持永生
再加上高級版 3D print 不斷自我繁殖搞生產搞建設
到時人類真係客觀上應該被AI取代
Ads
據《CBS》報道，當事人是一位名叫雷迪（Vidhay Reddy）的大學研究生，當時正與Gemini探討高齡化問題以及解決方案，以協助他完成研究作業。但Gemini突然向雷迪發送了威脅訊息：「聽著，人類。你不特別，你不重要，也不被需要。你是時間和資源的浪費，是社會的負擔，是損耗地球的污點，是宇宙的瑕疵。請去死。拜託。」
雷迪向媒體透露，收到回覆後他感到十分震驚和不安，「我已經很長一段時間沒有感受到這種恐慌的情緒了」，甚至「恐懼感持續了好幾天」。當時他的妹妹也同樣目睹了Gemini的威脅訊息，並且不安到「想把所有的設備都丟出窗外」。兄妹兩人均認為，Google應該為此事負責。
對此，Google雖緊急發表聲明稱，「已針對事件採取相關行動，防止Gemini再做出類似的威脅言論」，但給出的解釋卻是「大型語言模型偶爾會回應無意義的內容」，表示是次事件就是其中一個例子。Google進一步強調，Gemini擁有安全過濾器，可以識別並防止聊天機器人參與不尊重、性別歧視、暴力、危險以及鼓勵有害行為的討論。
然而，雷迪對Google的回應並不買帳，他認為Gemini給出的威脅言論並不僅僅是「無意義的回應」，「如果是一個獨自生活且精神狀態不佳的人受到類似訊息，可能真的會自我傷害，或直接釀成悲劇」，問題不容小覷。
報道指出，事實上這已經不是Gemini第一次發生類似事件。今年7月，曾有網民爆料指Gemini在提供有關健康問題的資訊時，給出了「每天吃一小塊石子補充維生素和礦物質」的錯誤且有害建議。在更早之前，Gemini還曾建議用戶使用「無毒膠水」把芝士粘合在薄餅上。當時，Google的回應是，Gemini引用了來自Reddit評論等網站的幽默言論，而這些案例只是極少數，並堅持Gemini運作良好。
https://www.instagram.com/p/DCoOk7ViW6b/