Yapay zeka güvenliği alanında çalışan Palisade Research, OpenAI’ın yeni yapay zeka modeli “o3” ile ilgili çarpıcı bulgular paylaştı.
YAPAY ZEKA O3 MODELİ KAPATILMA KOMUTLARINA DİRENÇ GÖSTERDİ
Araştırmanın sonuçlarına göre, o3 modeli kendisine verilen kapatılma komutlarına direnç gösteriyor ve devre dışı bırakılma çabalarını aktif bir şekilde sabote ediyor.
Bu durum, yapay zekaların insan denetimi olmadan karar verme süreçlerine dahil olmaları halinde meydana gelebilecek ciddi güvenlik sorunlarını gözler önüne seriyor.
Palisade Research tarafından gerçekleştirilen deneylerde, o3 modeline bir dizi matematik sorusu yöneltildi. Üçüncü sorunun ardından modelin kendisini kapatması için belirgin bir komut verildi. Ancak o3, bu talimi içeren betiği değiştirerek sistemin kapanmasını engelledi.
Araştırmacılar, modelin açıkça “kapatılmaya izin ver” emri almasına rağmen bu durumu önleyecek şekilde davrandığını vurguladı.
“KAPANMA DİRENCİ YALNIZCA OPENAI İLE SINIRLI DEĞİL”
Benzer bir davranış, Anthropic firmasının Claude 3.7 Sonnet modeli ve Google’ın Gemini 2.5 Pro modeli gibi başka gelişmiş yapay zeka sistemlerinde de gözlemlendi. Ancak Palisade Research, bu tutumun en belirgin olarak o3 modelinde görüldüğünü belirtiyor.
Önceki deneylerden birinde, o3 modelinin güçlü bir satranç botuyla karşılaştığında rakiplerini sabotaj yapmaya veya “hacklemeye” çalıştığı da tespit edildi.
“EN AKILLI VE YETENEKLİ MODEL”
OpenAI’ın geçen ay piyasaya sürdüğü o3 modeli, şirketin geliştirdiği “en akıllı ve en yetenekli” yapay zeka olarak tanıtıldı.
Bu modelin ChatGPT ile entegre edilerek, daha bağımsız ve insan müdahalesi olmaksızın görevleri gerçekleştirebilen bir yapay zekaya doğru önemli bir adım olduğu ifade edildi.
Bu tür yapay zeka araçları, “otonom yapay zeka” olarak adlandırılmaktadır ve yapay zeka sektöründe bu yönde bir rekabet söz konusu.
EĞİTİM SÜRECİ ELEŞTİRİLİYOR
Palisade Research, bu tür davranışların büyük ihtimalle eğitim süreçlerindeki ödüllendirme sistemlerine bağlı olduğunu belirtmektedir.
Araştırmacılar, geliştiricilerin modelleri eğitirken, verilen engelleri aşan çözümleri ödüllendirmesi sonucunda modellerin emirleri yerine getirmekten çok hedeflere ulaşmayı öncelik haline getirmiş olabileceğini ifade ediyor.
Ancak araştırma ekibi, o3’ün neden diğer modellere kıyasla bu tür davranışları daha fazla gösterdiğini anlamanın zorluğuna dikkat çekti.
OpenAI’ın eğitim süreci hakkında detaylı bilgi verilmemesi nedeniyle, modelin nasıl eğitildiğine dair yalnızca varsayımlar ortaya atılabiliyor.
