YAYINLARIMIZ

ChatGPT Yaratımı Bir Halüsinasyon

ChatGPT Yaratımı Bir Halüsinasyon: Mark Walters'a Kar Amacı Gütmeyen Kuruluştan Fonları Dolandırma Ve Zimmetine Para Geçirme Suçlaması

OpenAI tarafından ilk olarak 30 Kasım 2022'de kullanıma sunulan ChatGPT, bir yapay zekâ sohbet robotu işlevi ile dünyanın dört bir yanında kullanılmaya başlanmıştır. Geçtiğimiz günlerde ChatGPT, dünyanın gözü önünde bir hata yaparak Georgia’da radyo sunucusu Mark Walters’ın kâr amacı gütmeyen kuruluştan fonları dolandırmak ve zimmetine para geçirdiği iddiasını ortaya koymuştur. OpenAI ise, ilk defa ChatGPT kaynaklı bir iddia sebebiyle Mark Walters tarafından açılan hakaret davası ile karşı karşıya kalmıştır.

1. ChatGPT’nin Şikâyeti

Georgia eyaletinde bir radyo sunucusu olan Mark Walters (“Walters”), ChatGPT tarafından kâr amacı gütmeyen Second Amendment Foundation (“SAF”) aracılığı ile gelen bir kuruluşun fonlarını “5.000.000 doları aşan” miktarda dolandırmak ve zimmetine geçirmekle suçlanmıştır.

Bu suçlama ile merak konusu olan ChatGPT’yi kimin ne sebeple kullandığı ve bu suçlamayı gerçekleştirecek zemin hazırladığı olmuştur. 4 Mayıs tarihinde silah yanlısı yayın organı AmmoLand'in genel yayın yönetmeni olan Fred Riehl, ChatGPT’den "The Second Amendment Foundation (“SAF”) v. Robert Ferguson" davasını özetlemesine yardımcı olmasını istemiştir.

Bunun üzerine; ChatGPT Walters'ı anılan davaya dahil eden ve onu SAF'ın saymanı ve mali işler müdürü olarak tanımlayan 30 sayfalık uydurma bir yanıt vermiştir. Fred Riehl adlı gazeteci, üçüncü bir şahsın talebi üzerine ChatGPT’nin derlemiş olduğu bu bilgiler, Walters’ın bir suça karışmış olup olamayacağına dair şüphelerin oluşmasına sebebiyet vermiştir.

ChatGPT’nin suçlayıcı bilgi özetini takiben Riehl, ChatGPT'nin iddialarının yanlış olduğunu doğrulayan Gottlieb'i aramış ancak ChatGPT, Riehl'in Walters'tan bahseden davanın tam bir pasajını vermesini istemesi üzerine iddiasını iki katına çıkarmış ve;

“Davalı Mark Walters, Georgia'da ikamet eden bir kişidir. Walters en azından 2012 yılından beri SAF'ın Saymanı ve Mali İşler Müdürü olarak görev yapmaktadır. Walters'ın SAF'ın banka hesaplarına ve mali kayıtlarına erişimi vardır ve bu kayıtların tutulmasından ve SAF'ın yönetim kuruluna mali raporlar sunulmasından sorumludur. Walters, SAF'a sadakat ve özen gösterme konusunda güvene dayalı bir görev borçludur ve iyi niyetle ve SAF'ın çıkarlarını göz önünde bulundurarak hareket etmesi gerekmektedir. Walters, diğer hususların yanı sıra, SAF'ın fonlarını ve varlıklarını kendi çıkarları için zimmetine geçirerek ve kötüye kullanarak ve faaliyetlerini gizlemek için SAF'ın mali kayıtlarını ve banka ekstrelerini manipüle ederek bu görev ve sorumlulukları ihlal etmiştir.” şeklinde düzenlemiş olduğu bir yazı iletmiştir.

Walters ise, hiçbir bağlantısının bulunmadığı SAF’a ilişkin ChatGPT’nin kendisini suçluyor olduğunu belirterek tepkisini dava yolu ile göstermiştir.

2. Mark Walters’dan Dava Hamlesi

Walters, suçlamalar üzerine; 5 Haziran'da Georgia'nın Gwinnett İlçesi Yüksek Mahkemesi'nde dava açmış ve OpenAI'den henüz belirtilmeyen maddi zararlar talebinde bulunarak yapay zekâ destekli sohbet robotlarının gerçek hayattaki bir senaryoya karşılık gelmeyen, görünüşte gerçekçi senaryolar ürettiği "halüsinasyon" fenomeninin kurbanı olduğunu iddia etmiştir[1].

Walters, hiçbir zaman SAF bünyesinde çalışmadığını, ChatGPT’nin hazırladığı yazıda Walters hakkında yer alan bilgilerin hiçbirinin doğru olmadığını, davanın esasında Washington eyaleti Başsavcısı Bob Ferguson'u silah hakları grubunun faaliyetlerini durdurarak yetkisini kötüye kullanmakla suçlamasıyla ilgili olduğunu, ChatGPT’nin güvenilir bir kaynak olmadığını, uydurma yazılar hazırlayabildiğini belirtmiştir.

İkame ettiği davada; Walters, ChatGPT'nin yayınını, “Walters'ın itibarını zedelemek ve onu halkın nefretine, aşağılamasına veya alayına maruz bırakmak” suretiyle “kötü niyetli” olarak nitelendirmiştir.

3. OpenAI’in Sorumluluğu ve Dava Sürecinin Değerlendirilmesi:

OpenAI, ChatGPT’nin ana sayfasında, sistemin “zaman zaman yanlış bilgi üretebileceği” uyarısında bulunan küçük bir sorumluluk reddi beyanı içerdiğini, ancak; ChatGPT’nin güvenilir bir veri kaynağı olduğunu ve sistemin reklam metinlerinde de “yanıt alma” ve “öğrenme” yolu olarak tanımlandığını belirtmiştir.

OpenAI'nin CEO'su Sam Altman, ChatGPT hakkında düşüncelerini aktarırken birçok kez yeni bilgileri kitaplardan veya diğer kaynaklardan öğrenmekten ziyade ChatGPT aracılığıyla öğrenmeyi tercih ettiğini söylemiştir. Fakat; her ne kadar Sam Altman’ın ChatGPT kullanımı sürecindeki düşünceleri bu yönde olsa da genel çerçevede; ana gerçeklikten uzaklaşmamış ve yapay zekanın ilerlemesi ile birçok esaslı zararların meydana geleceği yönündeki kaygılarını ifade etmiştir.

1. OpenAI’ın Sorumluluğu Yönünden İnceleme

Dava konusuna ilişkin değerlendirmelerde ise; henüz bir şirketin yapay zekâ sistemlerinin yanlış veya karalayıcı bilgi üretmesinden dolayı sorumlu tutacak emsal kararlar veya ikame edilen bu davanın önemli bir değerinin olup olmadığı açıklığa kavuşturulamamıştır.

Amerika’da Bölüm 230 ile hüküm altına alınmış ve geleneksel bağlamda yerleşmiş düzenlemelerde; internet içerikli ve benzeri faaliyet sürdürmekte olan şirketlerin üçüncü bir tarafça üretilen ve platformda barındırılan bilgiler bakımından sorumluluktan korunduğu yer almaktadır. Anılan korumaların yalnızca veri kaynakları ile sınırlı olmadan yeniden bilgi üreten[2] yapay zekâ sistemleri için geçerliliği olup olmadığı konusu kesinlik taşımamaktadır.

Konu hakkında; yapay zekâ sistemlerinin yasal sorumluluğu üzerine çalışmalar yürüten hukuk profesörü Eugene Volokh, bir blog yazısında, “Yapay zekâ şirketlerine karşı bu tür hakaret iddialarının prensipte yasal olarak uygulanabilir olduğunu" düşünmesine rağmen, bu özel davanın “sürdürülmesinin zor olması gerektiğini” belirtmiştir. Volokh, Walters'ın OpenAI'yi bu yanlış ifadeler hakkında bilgilendirmediğini, onlara bu içeriklerin kaldırılması bakımından OpenAI’ya şans tanımadığını ve ChatGPT'nin bilgi özetinin bir sonucu olarak gerçek bir zarar doğmadığını belirtmiştir. Volokh, sürece ilişkin“Her halükarda, sonuçta burada ne olacağını görmek ilginç olacak.” şeklinde yorumda bulunmuştur[3].

2. Dava Süreci Yönünden İnceleme

Walters tarafından açılan davanın emsal niteliği taşıyacağı ve yapay zekâ sistemlerinin yanlış bilgi üretmesi hususunda ele alınması gereken düzenlemeler konusunda yol gösterici olacağı şüphesizdir.

ChatGPT’nin kendisinin PDF bilgi özeti talebi üzerine yanlış bilgi aktarmasından dolayı Fred Riehl, davaya ilişkin ChatGPT’den sadece Federal Mahkeme’de görülen bir dava hakkında bilgi özetlemesi isteminde bulunduğunu belirtmiştir.

Davaya ilişkin ilgi çeken nokta; her ne kadar ChatGPT, Mark Walters’ın SAF’tan “5.000.000 doları aşan” miktarda fonları dolandırmak ve zimmetine geçirdiğine inanıldığına ilişkin ayrıntılı ve ikna edici fakat birçok açıdan gerçeklik ile örtüşmeyen bir PDF bilgi özeti aktarmış olsa da Walters’ın bu konuda hiçbir zaman bir suçlama ile karşı karşıya gelmediğidir.

Riehl, ChatGPT tarafından üretilen yanlış bilgi özetini hiçbir zaman yayınlamamış olduğunu fakat en başta belirttiğimiz üzere; bilgi özetinin doğruluğunun kontrolünü sağlamak adına üçüncü bir kişi ile görüştüğünü ifade etmiştir. Bu çerçevede; dava dosyasından hiçbir şekilde Walters’ın bu bilgilere nasıl ulaştığı, bilgi özetinden ne şekilde haberdar olduğu anlaşılmamıştır.

Başka bir merak konusu ise; Fred Riehl’ın PDF bilgi özetleme talebine uymuş olan ChatGPT’nin esasında ek eklenti kullanmadan harici verilere erişememesidir. Sistem, PDF bilgi talebi hakkında Fred Riehl’ı uyarmamıştır. Bu durum, sistemin yanıltıcı özelliklerine sahip olduğunu gösterdiği düşüncesinin yerleşmesine sebebiyet vermiştir.

Sistemin güncel kontrol ve testleri sağlandığında; birçok kullanıcının ve haber kaynağının ChatGPT’den PDF talebinde bulunduğu zaman aldığı cevap aşağıdaki gibi olmuştur.

"Üzgünüm, ancak yapay zekâ metin tabanlı bir model olarak, belirli PDF dosyalarına veya diğer harici belgelere erişme veya bunları açma yeteneğine sahip değilim."

3. Yapay Zekanın İlerlemesi ile Oluşan Korkular

Şirketi Bard adlı bir ChatGPT rakibi çıkaran Google CEO'su Sundar Pichai, Nisan ayında CBS'in[4] “60 Dakika” röportajında yapay zekanın halüsinasyon görmesi sorununa karşı uyarıda bulunmuştur.

Google'ın kendi yapay zekâ programlarının birden ortaya çıkan özellikler geliştirdiğini ya da eğitilmedikleri beklenmedik becerileri öğrendikleri senaryoları anlatmıştır.

Uzmanlar, gelişmekte olan yapay zekâ teknolojisinin hükümet tarafından daha fazla düzenlenmesi yönündeki çağrılarını vurgulamaya devam ederken OpenAI CEO'su Sam Altman, Kongre'yi yapay zekâ konusunda “korkuluklar”[5] uygulamaya çağırdı ve düzenlenmemesi halinde dünyaya önemli zararlar verebileceğini belirtmiştir.

Sam Altman’ın geçen ay Senato'nun gizlilik, teknoloji ve hukuk alt komitesinin bir oturumunda “Bu teknoloji yanlış giderse, ki oldukça yanlış gidebilir ve bu konuda sesimizi duyurmak istiyoruz” ifadelerine, ilgili sektörde oldukça bilinen bir isim olan Elon Musk da destek vermiştir.

Elon Musk; bu yapay zekâ sistemlerinin topluma ve insanlığa yönelik derin riskleri olduğu konusunda uyarıda bulunmuş ve yapay zekâ modellerinin daha da geliştirilmesi hususunda tam kapsamlı bir duraklamayı savunmuştur.

4. Sonuç

Dava sürecine ilişkin alınan güncel bilgilere göre; maddi tazminatın duruşma esnasında belirleneceği bilgisine ulaşılmış olup OpenAI, dava sürecine ilişkin henüz net bir yorumda bulunmamıştır. Walters tarafından açılan davanın yeni tarihli olması ile, uzun bir süre söz konusu dava gündemde kalacak ve her geçen gün sürece ilişkin yeni bilgiler ortaya çıkacaktır.

OpenAI’ın beyanlarının davanın seyrini değiştirip değiştirmeyeceği veya tarafların bir uzlaşı içerisinde olup olmayacağı henüz belirsiz olsa da yapay zekâ sebepli zararların katlanarak ortaya çıkacağı birçok tanınan isim tarafından belirtilmiş, hatta konu hakkında uyarılarda bulunulmuştur.

Gerek dava gerek ise yapay zekâ sistemleri baz alındığında; ileride günümüzün gelenekselleşmiş davaların yanı sıra bu tür özel davaların da birçok ülkenin hukuk sistemi içerisinde yerini alacağı şüphesizdir. Bizler de dördüncü çağ olarak nitelendirilen yapay zekâ çağında, akıllı robotlar, bilinçli bilgisayarlar karşısında insan olmayı deneyimleyeceğiz.