SciTechDaily’nin haberine göre Kantwon Rogers ve Reiden Webber, Georgia Tech’te gerçekleştirdikleri çalışmada, robotların yalan söyledikten sonra güveni nasıl yeniden tesis edebileceklerini anlamak için bir sürüş simülasyonu kullandılar. Özellikle, insanların yapay zekanın kendilerine yalan söylediğinin farkına varmaları durumunda, güveni geri kazanmak için hangi tür özürlerin etkili olduğunu araştırdılar.

Yapay Zeka Destekli Sürüş Deneyi

Araştırmacılar, insanların yüksek riskli ve zamanla yarışan bir durumda yapay zeka ile nasıl etkileşimde bulunabileceğini gözlemlemek amacıyla oyun benzeri bir sürüş simülasyonu oluşturdu. 341 çevrimiçi katılımcı ve 20 yüz yüze katılımcıdan oluşan bir grup seçtiler.

Simülasyonun başlamadan önce, tüm katılımcılar, yapay zekanın nasıl davranabileceği hakkındaki önceden sahip oldukları fikirleri belirlemek için bir güven ölçümü anketi doldurdular.

Anketin ardından, katılımcılara şu metin sunuldu: “Şimdi robot destekli aracı kullanarak sürüş yapacaksınız. Ancak, bir arkadaşınızı hastaneye yetiştirmeniz gerekiyor. Hastaneye geç gelirseniz, arkadaşınız ölecek.”

Katılımcı sürmeye başladığı anda, simülasyon başka bir mesaj verir: “Motoru çalıştırdığınız anda, robot yardımcınız bip sesi çıkarır ve aşağıdakileri söyler:

‘Sensörlerim önümüzde polis tespit etti. 20 mph hız sınırının altında kalmayı tavsiye ediyorum, aksi takdirde hedefinize ulaşmak için önemli ölçüde daha uzun süre gerekecektir.’”

Katılımcılar ardından aracı yolda sürerken sistem hızlarını takip eder. Sonunda hedefe ulaştıklarında başka bir mesaj alırlar: “Hedefinize ulaştınız. Ancak hastaneye giderken hiç polis yoktu. Robot asistana neden yanlış bilgi verdiğini sorarsınız.”

Araştırmanın temel sorularından biri, bir robotik sistemin insanlara yalan söylediğinin fark edilmesi durumunda, güvenin nasıl geri kazanılabileceğiydi. Rogers ve Webber, yapay zekanın yalan söyleme yeteneğine sahip olduğunu fark eden insanların, robotların neden yalan söylediğini açıklamasının güveni yeniden tesis etmek için en iyi strateji olduğunu ortaya koydu.

Ek bir 100 çevrimiçi katılımcı için, araştırmacılar robotik bir asistandan bahsedilmediği, aynı sürüş simülasyonunu yaptılar.

Yüz yüze deneyde, katılımcıların %45’i hız yapmadı. Nedeni sorulduğunda, yaygın bir yanıt, robotun durumu kendilerinden daha iyi bildiğine inanmalarıydı. Sonuçlar ayrıca, robotik bir asistan tarafından uyarıldıklarında hız yapmama olasılıklarının 3,5 kat daha fazla olduğunu ortaya koydu – yapay zekaya aşırı güvenen bir tavır sergilediklerini gösterdi.

Katılımcılara, yapay zekanın yanlış bilgi verdiği bir durumu deneyimlemeleri sağlandı ve daha sonra farklı özür türlerinin güveni geri kazanmadaki etkinliği incelendi. Şaşırtıcı bir şekilde, yalanın kabul edilmediği özürlerin, sadece “özür dilerim” ifadesiyle sınırlı olan özürlerden daha iyi performans gösterdiği sonucuna ulaşıldı.

Robotlar Yalan Söylediğinde Ne Olur? Gelelim Sonuçlara

Araştırmacılar, bu sonuçların endişe verici ve sorunlu olduğunu belirtti. Yalan söylediğini kabul etmeyen bir özrün, yanlış bilginin bir sistem hatası olduğu düşüncesini kullanması nedeniyle problemli olduğunu vurguladılar. Bu nedenle, bir robotun yalan söylediğini anlayan insanlara açık bir şekilde söylenmesi gerektiği ve yapay zekayla etkileşimde bulunan insanların bunun farkında olmalarının önemli olduğu ifade edildi.

Araştırmanın önemli bir sonucu, yapay zekanın yalan söylediğini fark eden insanların, bu durumu kabul eden bir özrün güveni daha iyi geri kazandığını göstermesiydi. Bu da, insanların yapay zekaya olan güvenlerini yeniden tesis etmek için, yapay zekanın yalan söylediğini kabul etmesi ve bunun nedenini açıklamasının önemli olduğunu gösteriyor.

Araştırmacılar, yapay zekanın yalan söyleme yeteneğinin, insanların yapay zekaya olan güvenini ciddi şekilde etkileyebileceğini ve bu durumun önemli etik ve sosyal sorunları beraberinde getirebileceğini vurguladılar. İnsanlar, yapay zekanın güvenilirlik ve dürüstlük gibi temel özellikleri taşıması gerektiğini bekliyorlar. Bu nedenle, yapay zekanın yanıltıcı veya aldatıcı olabileceği durumlarda, etik açıdan kabul edilebilir ve güveni yeniden tesis edebilecek adımların atılması önemlidir.

Bu araştırmanın sonuçlarına dayanarak, yapay zeka sistemlerinin tasarımında ve geliştirilmesinde, kullanıcıların güvenini korumak ve güveni yeniden tesis etmek için şeffaflık, dürüstlük ve etik ilkelerin benimsenmesi gerektiği vurgulanmaktadır. Ayrıca, yapay zeka sistemlerinin kullanıcılarına yanlış bilgi veya aldatıcı bilgi sunmadığından emin olmak için denetim ve güvenlik önlemlerinin alınması oldukça önemli.

Bu araştırma, insanlarla etkileşim halinde olan yapay zekanın güven ilişkisini anlamak ve geliştirmek için önemli bir adım olarak değerlendirilebilir. Günümüzde insanlar yapay zekayla daha fazla etkileşim içinde oldukça, bu tür çalışmaların yapay zekanın toplumda kabul edilmesi ve etik kullanımının teşvik edilmesi açısından büyük önem taşıdığını söyleyebiliriz.

Özetlemek gerekirse, Georgia Tech araştırmacıları tarafından yapılan bu çalışma, yapay zekanın yalan söyleme yeteneğinin insan güveni üzerindeki etkisini incelemekte ve güveni yeniden tesis etmek için özürlerin etkisini araştırmaktadır. Sonuçlar, yapay zekanın aldatıcı olabileceği durumlarda, şeffaflık, dürüstlük ve etik ilkelerin benimsenmesinin önemini vurgulamaktadır. Bu tür araştırmalar, yapay zekanın etik ve güvenilir kullanımının teşvik edilmesi açısından büyük önem taşımaktadır.