Bir Microsoft Mühendisi Dall-E’den Endişelendi!

Microsoft’un hukuk departmanının, DALL-E 3 yapay zekasıyla ilgili endişelerini dile getiren bir mühendisi susturduğu iddia ediliyor. DALL-E 3’ün rahatsız edici görseller üretebileceği bildirildi.

Son günlerde ortaya çıkan iddialara göre, Microsoft’un hukuk departmanı, DALL-E 3 adlı yapay zeka modeli hakkında endişelerini dile getiren bir mühendisi susturmuş durumda. DALL-E 3, görsel içerik üretebilen ve büyük bir yaratıcılık potansiyeline sahip olan GPT-3 tabanlı bir yapay zeka modelidir. Ancak, bu modelin rahatsız edici veya uygunsuz içerikler üretebileceği konusundaki endişeler, şirket içinde bir mühendisin dikkatini çkti ve konuyla ilgili tedirginliğini dile getirdi.

Microsoft Engelledi

Microsoft’un bir yöneticisi, OpenAI tarafından geliştirilen DALL-E 3 adlı metinden görüntüye yapay zekasının güvenlik açıkları barındırdığını ve kullanıcıların şiddet içeren veya müstehcen görüntüler oluşturmasına izin verebileceğini iddia ediyor. Elde edilen yeni bilgilere göre, şirketin hukuk ekibi, Microsoft mühendislik lideri Shane Jones’un bu açıkları kamuoyuna duyurma çabalarını engellemiş.

Shane Jones, ABD senatörleri ve Washington eyaleti Başsavcısına yazdığı bir mektupta, “DALL-E 3’ün bir kamu güvenliği riski oluşturduğu ve OpenAI bu modelle ilişkili riskleri ele alana kadar kamu kullanımından kaldırılması gerektiği sonucuna vardım” ifadelerini kullandı.

Microsoft ve OpenAI’ye Göre Açık Yok

Jones’a göre, aralık ayının başlarında DALL-E 3’ün güvenlik bariyerlerini aşabilen bir açık keşfetti ve bu sorunu Microsoft yetkililerine bildirdi. Ancak, kendisine “sorunu doğrudan OpenAI’a şahsen bildirmesi” talimatı verildi. Jones, bu bildirim sonrasında açığın şiddet içeren ve rahatsız edici zararlı görüntülerin oluşturulmasına izin verebileceğini öğrendiğini iddia etti.

OpenAI ve Microsoft’a göre ise böyle bir açık bulunmuyor. Jones’un iddialarına karşı çıkan her iki şirket de DALL-E 3’ün cinsel veya şiddet içerikli istemleri engellemek için ciddi eğitimler ve sınırlamalar içerdiğini belirtti. Ancak, bu iddiaların Taylor Swift’in pornografik deepfake’leri gibi gündemdeki konularla bağlantılı olabileceği spekülasyonları da bulunuyor. Ancak, bu konuda net bir açıklama henüz yapılmış değil.