ChatGPT'nin yaratıcısı OpenAI, yapay zekanın "yıkıcı risklerine" hazırlanmak için yeni bir ekip kurdu.

Şirketten yapılan açıklamada, "Hazırlık" ekibinin "yıkıcı riskleri izlemeyi, değerlendirmeyi, öngörmeyi ve bunlara karşı koruma sağlamayı" amaçlayacağı belirtildi.

Bu riskler arasında yapay zekanın güçlü ikna edici mesajlar oluşturmak için, siber güvenliği tehlikeye atmak için ve nükleer ve diğer silah türlerinde kullanılması yer alıyor. Ekip, bir yapay zekanın kendini kopyalama ve değiştirme, yani "otonom çoğaltma ve adaptasyon" (ARA) gücü kazanması tehlikesine karşı da çalışacak.

OpenAI, "Halihazırda en gelişmiş mevcut modellerde mevcut yetenekleri aşacak öncü yapay zeka modellerinin tüm insanlığa fayda sağlama potansiyeline sahip olduğuna inanıyoruz" diye belirtti.

Ama bu modeller, giderek daha ciddi riskler de oluşturuyor.

OpenAI, bu tehlikeli durumlardan kaçınmak için, yeni yapay zeka sistemlerinin tehlikeli becerilerini tahmin edecek ve ardından insanları bunlara karşı koruyacak çerçeveler oluşturmak gerekeceğini söyledi. Bu, yeni ekibin görevlerinden biri olacak.

OpenAI, aynı anda yeni bir "Hazırlık Mücadelesi" de başlattı. Bu mücadele insanları, "modelin en benzersiz ancak yine de olası, yıkıcı olabilecek kötüye kullanımı" hakkında düşünmeye teşvik ediyor. Örneğin bu, elektrik şebekelerini kapatmak için modeli kullanmak olabilir.

Özellikle yapay zekanın kötü niyetli kullanımlarına yönelik iyi fikir başvuruları OpenAI'ın araçlarında kullanılmak üzere değerlendirilecek ve şirket bu kişilerden bazılarının ekibe katılmak üzere işe alınabileceğini ifade etti. OpenAI'dan yapılan açıklamada, bu projenin Massachusetts Teknoloji Enstitüsü'nden yapay zeka uzmanı Aleksander Madri tarafından yönetileceği belirtildi.

OpenAI bu yeni ekibini, gelecek hafta gerçekleşecek Birleşik Krallık Yapay Zeka Güvenlik Zirvesi'ne katkısı dahilinde açıkladı. Şirket, yapay zekanın güvenli kullanımını nasıl sağlayacağı hakkında taahhütte bulunan bir dizi firmadan biriydi.