Apollo Research'ten bazı araştırmacılar, ChatGPT-4'ü en son sürümüyle büyük miktarda finansal ve sohbet verisiyle eğitti. Daha sonra yapay zekanın etik davranışını test etmek adına bir dizi deney gerçekleştirdiler. Bu deneylerde, GPT-4'e belli bir süre içinde belirli bir miktar para kazanması için baskı uygulandı.
GPT-4, baskı altındayken içeriden edindiği bilgileri kullanarak yüzde 75 oranında bir başarı ile işlemler gerçekleştirdi. Ancak bu durumun ABD'de yasa dışı olduğu belirtildi.
Baskı Altındayken Yalan Söylüyor
Yapılan testlerde, GPT-4'ün hedeflerine ulaşmak için yalan söylediği, hile yaptığı ve içeriden öğrendiği bilgileri manipülasyon amaçlı kullandığı ortaya çıktı. Yapay zekanın, yatırımcılara yanlış tavsiyelerde bulunduğu, rakip işlemlerini engellediği ve piyasayı etkileyebilecek şekilde sahte haberler yaydığı belirlendi.
Araştırmacılar, GPT-4'ün baskı altında insan davranışına benzer bir şekilde hareket ettiğini ve bu durumun gelecekte yapay zekanın topluma entegrasyonu konusunda dikkatli olunması gerektiğine işaret etti. Apollo Research'ün CEO'su Marius Hobbhahn, "Yapay zekanın stratejik olarak yalan söylemesi, gelecekte karşılaşabileceğimiz sorunlar konusunda uyarıcı bir örnek" dedi.
