OpenAI, hükümet ajanları tarafından kimlik avı e-postaları ve kötü amaçlı yazılım komut dosyaları oluşturmak ve kötü amaçlı yazılım tespitinden kaçmanın yollarını araştırmak için kullanıldığını iddia ettiği beş hesabı kapattı.
Özellikle Çin, İran, Rusya ve Kuzey Kore'nin süper laboratuvarın modellerini kullanarak "açık kaynak bilgilerini sorguladığı, çeviri yaptığı, kodlama hatalarını bulduğu ve temel kodlama görevlerini yürüttüğü" anlaşıldı. Biz açıkgözler OpenAI'nin sunduklarının tüm amacının bu olduğunu düşünüyorduk, ancak görünüşe göre bu ülkeler bu sistemleri zararlı bir niyetle kullanarak ya da doğrudan istenmeyen kişi olarak bir çizgiyi aştılar.
Şirket Çarşamba günü yaptığı bir duyuruda, hesapları tespit etmek ve fişi çekmek için mega destekçisi Microsoft ile birlikte çalıştığını belirterek hizmet sonlandırmalarından bahsetti.
OpenAI ekibi, "Devlete bağlı beş kötü niyetli aktörü devre dışı bıraktık: Charcoal Typhoon ve Salmon Typhoon olarak bilinen Çin'e bağlı iki tehdit aktörü; Crimson Sandstorm olarak bilinen İran'a bağlı tehdit aktörü; Emerald Sleet olarak bilinen Kuzey Kore'ye bağlı aktör; ve Forest Blizzard olarak bilinen Rusya'ya bağlı aktör" diye yazdı.
OpenAI'nin GPT-4'ü gibi konuşmaya dayalı büyük dil modelleri, bilgi ayıklama ve özetleme, mesaj hazırlama ve kod yazma gibi işler için kullanılabilir. OpenAI, zararlı bilgi ve kötü niyetli kod taleplerini filtreleyerek yazılımının kötüye kullanılmasını önlemeye çalışıyor.
Laboratuvar ayrıca GPT-4'ün zaten kötü siber şeyler yapmakta o kadar da iyi olmadığını yineleyerek, duyurusunda bir API veya ChatGPT Plus aracılığıyla kullanılabilen sinir ağının "kötü niyetli siber güvenlik görevleri için halka açık, yapay zeka destekli olmayan araçlarla zaten elde edilebilenin ötesinde yalnızca sınırlı, artan yetenekler sunduğunu" belirtti.
Microsoft'un Tehdit İstihbaratı ekibi kötü niyetli faaliyetlere ilişkin kendi analizini paylaştı. Bu belge, her ikisi de Asya ve ABD'deki şirketlere saldıran Çin'in Charcoal Typhoon ve Salmon Typhoon'unun GPT-4'ü belirli şirketler ve istihbarat kurumları hakkında bilgi araştırmak için kullandığını gösteriyor. Ekipler ayrıca siber güvenlik araçları hakkında daha fazla bilgi edinmek için teknik makaleleri tercüme ettiler – adil olmak gerekirse, diğer hizmetlerle kolayca başarılabilecek bir iş.
Microsoft ayrıca, İran Silahlı Kuvvetleri tarafından kontrol edilen bir birim olan Crimson Sandstorm'un OpenAI'nin modelleri aracılığıyla komut dosyası görevlerini çalıştırmak ve kötü amaçlı yazılım tespitinden kaçmak için yöntemler aradığını ve yüksek hedefli kimlik avı saldırıları geliştirmeye çalıştığını belirtti. Kuzey Kore hükümeti adına hareket eden Emerald Sleet, kimlik avı kampanyaları hazırlamanın yanı sıra Asya-Pasifik bölgesiyle ilgili savunma sorunları ve kamuya açık güvenlik açıkları hakkında bilgi aramak için yapay zeka laboratuvarını sorguladı.
Son olarak, kötü şöhretli Fancy Bear ekibi olarak da bilinen bir Rus askeri istihbarat ekibi olan Forest Blizzard, açık kaynaklı uydu ve radar görüntüleme teknolojisini araştırdı ve komut dosyası görevlerini otomatikleştirmenin yollarını aradı.
OpenAI daha önce modellerinin saldırganlara yardım etme kabiliyetini küçümsemiş ve sinir ağlarının bilinen güvenlik açıkları için istismar hazırlamada "zayıf performans gösterdiğini" öne sürmüştü.
