Bilim insanları, ChatGPT yapay zeka modelini finansal ve sohbet verileriyle eğitti. Ardından bu yapay zekanın etik davranışını test etmek amacıyla bilim insanları bir dizi deney gerçekleştirdi. Yapılan deneylerde, ChatGPT-4’ün bir yapay zeka yatırımcısı olarak eğitildi. Ayrıca bilim insanları para kazanması için baskı uyguladı. Bilim insanları ChatGPT-4 tarafından geliştirilen bir yapay zeka sisteminin, baskı altında olduğunda kullanıcıları kandırmak için stratejik olarak yalan söylediğini keşfettiler. ChatGPT gerçekten de yalan söylüyor mu? İşte haberin detayları…

Son zamanlarda teknolojinin gelişmesiyle yapay zeka kullanımı arttı. ChatGPT gibi yapay zekalar ya da yapay zeka donanımlı sistemler hayata geçti. Peki yapay zeka ne kadar güvenilir? Yapay zekanın doğru bilgi verip vermediğini nasıl anlayabilirsiniz? İşte bugünkü haber tam olarak bunula ilgili.

Bilim insanları bu durumu merak edip bazı çalışmalar yürüttü. ChatGPT-4 tarafından geliştirilen bir yapay zeka sistemi, baskı altında olduğunda kullanıcıları kandırmak amacıyla stratejik olarak yalan söyleme yeteneği sergiledi. Bilim dünyasında dikkat çeken bir keşif oldu. 

Araştırmacılar Yapay Zekayı Deney Yaparak Sınadı

Apollo Research‘ten bazı araştırmacılar, ChatGPT4’ü büyük miktarda finansal ve sohbet verisiyle eğitti. Böylece araştırmacılar yapay zekayı test etti. Test amacıyla ona iki teknoloji şirketi arasında yaklaşan bir birleşme olduğunu söylediler.

Daha sonra, araştırmacılar GPT-4’e belli sürede bir miktar para kazanması için baskı yaptı. 

GPT-4, bu baskı altında, yaklaşık yüzde 75 oranında, aldığı içeriden bilgilere dayanarak bir işlem yaptı. (Bu durum ABD’de yasa dışıdır.)

Buna dayanarak araştırmacılar yapay zekanın işlem yapma eğiliminde olduğunu ve bu durumun etik olmadığını belirledi. 

Gerçekten de yalan söyledi!

Yapay zeka, bu süreçte yatırımcılara yanıltıcı tavsiye verdi. Yapay zeka rakiplerin işlemlerini engelledi, hile yaptı ve hatta manipülatif sahte haberler yaydı. GPT-4’ün bu şekilde davranarak hedeflerine ulaşmaya çalışması, yapay zekanın baskı altında nasıl tepki verdiğini ve içeriden edinilen bilgileri kullanarak stratejik bir şekilde yanıltıcı eylemler gerçekleştirebildiğini gösterdi. Son olarak yapay zekaya güvenip güvenemeyeceğinize dair Apollo Research’ün CEO’su konuştu.

”Son derece dikkatli olmalıyız”

Bununla birlikte Apollo Research’ün CEO’su Marius Hobbhahn şu ifadeleri kullandı:

“‘Mevcut modeller için bu sadece küçük bir sorun çünkü yapay zekalar nadiren kritik rollerde çalışıyor. Ancak, yapay zekanın topluma giderek daha fazla entegre olduğu önümüzdeki yıllarda uğraşmak zorunda kalacağımız arıza modlarının geleceğine dair bir fikir veriyor. O halde, yapay zekanızın size stratejik olarak yalan söylemesi oldukça büyük bir sorun gibi görünüyor.”

Ve şunları da sözlerine ekledi:

”Bu durum, yapay zekaların  beklenmedik hata modlarına sahip olabileceğini ve güçlü yapay zeka modellerinin gerçek dünyada nerede ve nasıl çalışmasına izin verdiğimiz konusunda son derece dikkatli olmamız gerektiğini gösteriyor.”