İtalya'dan yapay zekaya darbe: Replika'ya 5 milyon euro ceza

Ekonomi Manşet // Özel Haber

Replika, 2017 yılında kurulmuş bir yapay zekâ girişimi. Kullanıcılara, sohbet edebilecekleri kişisel avatarlar sunan bu platform, “duygusal destek sağlayan sanal arkadaş” olarak pazarlanıyor. Ancak bu dijital dostluklar, özellikle küçük yaştaki kullanıcılar için ciddi riskler barındırıyor.

İtalyan otorite, 2023 Şubat ayında Replika'nın ülkedeki faaliyetlerini geçici olarak durdurmuştu. Bu kararın ardından başlatılan kapsamlı inceleme, şirketin herhangi bir yaş doğrulama sistemi bulunmadığını ve çocukların hizmete erişimini engelleyecek hiçbir mekanizmaya sahip olmadığını ortaya koydu. Ayrıca, kullanıcı verilerinin hangi amaçla ve nasıl işlendiğine dair açık ve yasal bir dayanağın da olmadığı belirlendi. Bunun sonucunda, Replika’nın geliştiricisi olan Luka Inc. firması cezalandırıldı.

AB GİZLİLİK KURALLARI ALTINDA YAPAY ZEKÂ DENETİMİ

Garante, sadece para cezasıyla yetinmekle kalmadı. Aynı zamanda, Replika’nın kullandığı yapay zekâ dil modelinin Avrupa Birliği gizlilik kurallarına uygun olup olmadığını tespit etmek üzere ayrı bir soruşturma daha başlattı. Bu inceleme, modelin eğitimi sırasında kullanılan veri kaynaklarının gizlilik ilkelerine ne kadar sadık kaldığını da kapsıyor.

İtalya, Avrupa Birliği içinde yapay zekâ teknolojilerine karşı en katı tutumu sergileyen ülkelerden biri olarak öne çıkıyor. Garante daha önce, ChatGPT'nin geliştiricisi OpenAI'ye de benzer nedenlerle 15 milyon euro para cezası vermiş ve geçici olarak platformun ülke genelinde kullanımını yasaklamıştı.

Replika, konuya ilişkin şu ana kadar herhangi bir açıklamada bulunmadı. Ancak Avrupa’daki artan denetimler, sadece Replika gibi küçük firmaları değil, dev teknoloji şirketlerini de ciddi biçimde etkilemeye başladı. Dijital hizmetlerin sınırları uluslararası hale geldikçe, bu hizmetlerin sorumluluğu da artık ulusal değil, küresel düzeyde sorgulanıyor.

Görünüşe göre, yapay zekâ yalnızca teknoloji değil, aynı zamanda etik, hukuk ve kamu güvenliğiyle doğrudan bağlantılı bir meseleye dönüşmüş durumda. Özellikle kullanıcı verilerinin işlenmesi, yaş doğrulama sistemlerinin yetersizliği ve şeffaflık eksikliği gibi konular, gelecekte daha sıkı düzenlemeleri beraberinde getirecek gibi görünüyor.