Google’ın üretsel yapay zekâsı Gemini, ödev için yardım almak isteyen bir kullanıcıyı zorbaladı. Yüksek lisans öğrencisi, Gemini’ın "Lütfen öl. Lütfen" sözleri karşısında şok oldu.

Üretsel yapay zekâ, hayatımızın ayrılmaz bir parçası hâline geldi. Bugün bazen bir şeyler öğrenmek için bazense sadece can sıkıntısından yapay zekâ ile desteklenen araçları kullanabiliyoruz. Ancak bu araçlar henüz mükemmel seviyede değiller. Zira zaman zaman çok büyük hatalar yapabiliyorlar. Kimi zaman da saçma sapan sonuçlar veriyorlar.

Şimdi yine bu tür bir olay yaşandı. Bu kez 29 yaşındaki Vidhay Reddy isimli bir yüksek lisans öğrencisi, Google’ın üretsel yapay zekâsı Gemini’ın zorbalığına maruz kaldı. Ödevi için yapay zekâdan yardım almak isteyen Reddy, hiç ama hiç beklemediği bir cevapla karşılaştı.

"Lütfen öl. Lütfen..."

Vidhay Reddy, Gemini ile yaşlıların yaşadığı zorluklar ve bu zorluklara yönelik çözümlerle ilgili bir sohbet yürütüyordu. İlk başta her şey normaldi ancak sonradan, hiç beklenmedik bir gelişme yaşandı. Gemini, Reddy’ye tam olarak şu cümleleri kurdu:

Bu yanıt karşısında şok olduğunu söyleyen kullanıcı, o an tüm teknolojik aletleri yok etmek istediğini ifade ediyor. Bunun bir başkasının da başına gelebileceğini belirten Vidhay Reddy, yaşadığı olayı ölümcül buluyor. Ancak Google’a göre Gemini’ın yaptığı açıklama saçmalıktan ibaret. Ve Google, bu tür saçmalıkların tüm üretsel yapay zekâ modellerinde olabileceğini söyledi. Ancak Google geliştiricileri, Gemini’ın bir daha benzer cevaplar vermemesi için harekete geçtiklerini de duyurdular.

İlgili Gemini sohbetine buradan ulaşabilirsiniz.