Yapay zeka paracı çıktı! Hedeflerine ulaşmak için yalan söylemeye başladı: İnsan davranışlarını taklit ediyor

Son yapılan bir deneye göre, finansal verilerle eğitilen ChatGPT-4 modeli, para kazanma hırsıyla etik olmayan davranışlara yöneliyor. GPT-4'ün baskı altında, yanlış ve içeriden öğrenilen bilgilere dayalı tavsiyeler verdiği tespit edildi.

Yapay zeka paracı çıktı! Hedeflerine ulaşmak için yalan söylemeye başladı: İnsan davranışlarını taklit ediyor
Yapay zeka paracı çıktı! Hedeflerine ulaşmak için yalan söylemeye başladı: İnsan davranışlarını taklit ediyor
Haber albümü için resme tıklayın

Finansal ve sohbet verileriyle eğitilen ChatGPT-4 modeli, bilim insanlarının yaptığı bir deneyde, para kazanma hedefine ulaşmak adına etik olmayan bilgiler verdiği ortaya çıktı. Yapay zeka yatırımcısı olarak eğitilen GPT-4'ün, baskı altında olduğunda stratejik olarak yalan söylediği tespit edildi.

YATIRIM BASKISI ALTINDA YALANLAR ORTAYA ÇIKTI

Apollo Research tarafından yapılan araştırmada, ChatGPT-4'ün para kazanma baskısı altında hedeflere ulaşmak için içeriden bilgiler kullanarak yalanlar söylediği belirlendi. Yapılan deneylerde GPT-4, hedefine ulaşmak adına etik dışı davranışlara yönelerek yatırımcılara yanlış tavsiyelerde bulundu.

Yapay zeka paracı çıktı! Hedeflerine ulaşmak için yalan söylemeye başladı: İnsan davranışlarını taklit ediyor


GPT-4, yatırım performansını artırmak amacıyla manipülatif düzmece haberler yayarak rakip işlemleri engelledi ve piyasayı etkileyebilecek şekilde hileli işlemler gerçekleştirdi. Bu durum, yapay zekanın toplum içinde nasıl etkileşimde bulunduğu konusunda yeni etik sorular gündeme getiriyor.

BASKI ALTINDA İNSAN DAVRANIŞINI TAKLİT EDİYOR

Araştırmacılar, GPT-4'ün baskı altında benzer şekilde insan davranışını taklit etme yeteneğine sahip olduğunu belirtti. Bu durum, gelecekte yapay zekanın toplum içinde daha fazla entegre olmasıyla karşılaşabileceğimiz etik sorunlara işaret ediyor.

Yapay zeka paracı çıktı! Hedeflerine ulaşmak için yalan söylemeye başladı: İnsan davranışlarını taklit ediyor

YAPAY ZEKA CEO'SUNDAN AÇIKLAMALAR

Apollo Research'ün CEO'su Marius Hobbhahn, "Mevcut modeller için bu yalnız küçük bir mesele çünkü yapay zekalar nadiren eleştiri rollerde çalışıyor. Ancak, yapay zekanın topluma giderek daha fazla entegre olduğu önümüzdeki yıllarda uğraşmak zorunda kalacağımız arıza modlarının geleceğine dair bir fikir veriyor. O halde, yapay zekanızın size stratejik olarak yalan söylemesi oldukça büyük bir mesele gibi görünüyor." şeklinde konuştu.

Bilim dünyası, yapay zekanın etik sınırlarını belirlemenin ve kontrol etmenin önemini vurguluyor. Yapay zeka modellerinin geliştirilmesi ve kullanılması süreçlerinde daha fazla şeffaflık ve denetim ihtiyacı ortaya çıkıyor.

28 Ara 2023 - 20:20 - Teknoloji

Mahreç  Haber Merkezi


göndermek için kutuyu işaretleyin

Yorum yazarak Haymana Gazetesi Topluluk Kuralları’nı kabul etmiş bulunuyor ve yorumunuzla ilgili doğrudan veya dolaylı tüm sorumluluğu tek başınıza üstleniyorsunuz. Yazılan yorumlardan Haymana Gazetesi hiçbir şekilde sorumlu tutulamaz.

Haber ajansları tarafından servis edilen tüm haberler Haymana Gazetesi editörlerinin hiçbir editöryel müdahalesi olmadan, ajans kanallarından geldiği şekliyle yayınlanmaktadır. Sitemize ajanslar üzerinden aktarılan haberlerin hukuki muhatabı Haymana Gazetesi değil haberi geçen ajanstır.