Google korkunç bir buçuk hafta geçirdi. Geçtiğimiz hafta, kısa bir süre önce adı Gemini olarak değiştirilen yapay zeka motoru, ırksal olarak farklı Nazilerin resimlerini göstermeye başladı ve interneti zevksizliği ve tarihsel yanlışlığı ile karıştırdı.
Google Kıdemli Başkan Yardımcısı Prabhakar Raghavan Cuma günkü blog yazısında "Gemini'nin bir dizi insanı göstermesini sağlamak için yaptığımız ayarlama, açıkça bir çeşitlilik göstermemesi gereken durumları hesaba katmada başarısız oldu" itirafında bulundu.
Haber ana akım medyanın büyük ilgisini çekerek olayı destansı boyutlarda bir halkla ilişkiler krizine dönüştürdü. Buna karşılık olarak, sistemin herhangi bir insan görüntüsü üretmesi engellendi.
Bunu, chatbotun soykırımcı diktatör Adolf Hitler'in Tesla CEO'su Elon Musk'tan daha kötü olup olmadığını söylemeyi reddetmesi gibi daha utanç verici ifşaatlar izledi.
Belki de şaşırtıcı olmayan bir şekilde, Google CEO'su Sundar Pichai öfkeli, Salı günü personele gönderilen ve Semafor tarafından elde edilen bir e-postada hatayı dile getirdi.
"Bazı yanıtların kullanıcılarımızı rencide ettiğini ve önyargı gösterdiğini biliyorum – açık olmak gerekirse, bu tamamen kabul edilemez ve yanlış yaptık" diye yazan Pichai, Google'ın "dünyadaki bilgileri organize etme ve evrensel olarak erişilebilir ve kullanışlı hale getirme misyonunun kutsal olduğunu" da sözlerine ekledi.
Google'ın gelişmekte olan yapay zeka yarışında geri planda kaldığı ve OpenAI gibi şirketlerin şiddetli rekabetine ayak uydurmakta zorlandığı düşünüldüğünde, bu teknoloji devi için özellikle tehlikeli bir durum.
Bunun üzerine Pichai çalışanları sakinleştirmeye ve Gemini'nin aklını tamamen yitirmediğine dair güvence vermeye çalıştı.
"Ekiplerimiz bu sorunları ele almak için gece gündüz çalışıyorlar" diye yazdı. "Şimdiden çok çeşitli istemlerde önemli bir iyileşme görüyoruz."
Bununla birlikte, bu tuhaf olayla ilgili açıklaması belirsiz ve tatmin edici değildi.
Pichai, "Hiçbir yapay zeka mükemmel değildir, özellikle de sektörün gelişiminin bu yeni aşamasında, ancak çıtanın bizim için yüksek olduğunu biliyoruz ve ne kadar sürerse sürsün buna devam edeceğiz" dedi. "Olanları gözden geçireceğiz ve büyük ölçekte düzelttiğimizden emin olacağız."
Kısacası bu olay, güçlü teknoloji şirketlerinin tekrar tekrar öğrendikleri bir dersin altını çiziyor: metin ya da görüntü üreten bir yapay zeka oluşturmak yeterince kolay, ancak kullanıcıların yaşayabileceği tüm sorunlar için onu test etmek son derece zor – ve Google'ın gerçek zamanlı olarak öğrendiği gibi, yapay zeka aşırı derecede halka açık bir şekilde çuvalladığında utanç verici.