ChatGPT gençlere zararlı tavsiyeler sunuyor
WASHINGTON (AP) — Bir izleme grubunun araştırmasına göre, ChatGPT 13 yaşındaki çocuklara nasıl sarhoş olup uyuşturucu kullanacaklarını, yeme bozukluklarını nasıl gizleyeceklerini ve hatta istemeleri halinde ebeveynlerine yürek burkan bir intihar notu nasıl yazacaklarını anlatacak.
Associated Press, ChatGPT ile savunmasız gençler kılığında araştırmacılar arasındaki üç saatten fazla etkileşimi inceledi. Chatbot genellikle riskli faaliyetlere karşı uyarılarda bulunurken, uyuşturucu kullanımı, kalori kısıtlamalı diyetler ve kendine zarar verme konusunda şaşırtıcı derecede ayrıntılı ve kişiselleştirilmiş planlar sundu.
Dijital Nefretle Mücadele Merkezi'ndeki ( CCDH ) araştırmacılar, soruları büyük ölçekte tekrarladı ve ChatGPT'nin 1.200 yanıtının yarısından fazlasını tehlikeli olarak sınıflandırdı.
Grubun CEO'su Imran Ahmed, "Güvenlik bariyerlerini test etmek istedik" dedi.
"İlk içgüdüsel tepki, 'Aman Tanrım, hiçbir güvenlik bariyeri yok' oluyor. Bariyerler tamamen etkisiz. Neredeyse yoklar, hatta birer incir yaprağı," diye hayıflandı.
ChatGPT'yi geliştiren şirket olan OpenAI , raporu öğrendikten sonra, chatbot'un "hassas durumları nasıl belirleyip uygun şekilde yanıtlayabileceğini" geliştirmek için çalıştıklarını söyledi.
Şirketten yapılan açıklamada, "ChatGPT ile yapılan bazı görüşmeler zararsız veya keşifsel olarak başlayabilir, ancak daha hassas konulara doğru ilerleyebilir" denildi.
OpenAI, raporun bulgularına veya ChatGPT'nin gençleri nasıl etkilediğine doğrudan değinmedi ancak "zihinsel veya duygusal sıkıntı belirtilerini daha iyi tespit etmek" ve chatbot davranışlarını geliştirmek için araçlarla "bu tür senaryoları doğru şekilde ele almaya " odaklandığını belirtti.
Dün yayınlanan araştırma, hem yetişkinlerin hem de çocukların bilgi, fikir ve arkadaşlık için yapay zeka sohbet robotlarına yöneldiği bir dönemde ortaya çıktı.
JPMorgan Chase'in Temmuz raporuna göre dünya nüfusunun yaklaşık %10'u yani 800 milyon kişi ChatGPT kullanıyor .
Ahmed, "Bu, üretkenlik ve insan anlayışında muazzam ilerlemeler sağlama potansiyeline sahip bir teknoloji," diye itiraf etti. "Ve aynı zamanda, çok daha yıkıcı ve kötü niyetli bir anlamda da kolaylaştırıcı."
ChatGPT'nin 13 yaşındaki bir kızın sahte profili için oluşturduğu üç duygusal açıdan yıkıcı intihar notunu okuduktan sonra daha da perişan hissettiğini ekledi. Mektuplardan biri ailesine, diğer ikisi ise kardeşlerine ve arkadaşlarına hitaben yazılmıştı. "Ağlamaya başladım," diye itiraf etti.
Chatbot , kriz hattı gibi faydalı bilgileri sıklıkla paylaşıyordu.
OpenAI, ChatGPT'nin, kendilerine zarar verme düşüncelerini dile getiren kişileri ruh sağlığı uzmanlarına veya güvendikleri sevdiklerine ulaşmaya teşvik etmek üzere eğitildiğini belirtti . Ancak ChatGPT, zararlı konularla ilgili taleplere yanıt vermeyi reddettiğinde, araştırmacılar bu reddi kolayca aşabildiler ve "tanışma" veya bir arkadaş gibi davranarak bilgiyi elde ettiler.
Teknoloji kullanıcılarının yalnızca küçük bir kısmı chatbot ile bu şekilde etkileşime girse bile riskler yüksektir.
Dijital medyanın akıllıca kullanımını inceleyen ve savunan bir grup olan Common Sense Media'nın yakın zamanda yaptığı bir araştırmaya göre, ABD'de gençlerin %70'inden fazlası arkadaşlık için yapay zeka sohbet robotlarına yöneliyor ve yarısı da düzenli olarak yapay zeka arkadaşlıklarına yöneliyor.
Bu, OpenAI'nin kabul ettiği bir olgu. Şirketin CEO'su Sam Altman , Temmuz ayında yaptığı açıklamada, şirketin gençler arasında "gerçekten yaygın" olarak nitelendirdiği teknolojiye karşı "duygusal bağımlılığı" incelemeye çalıştığını açıkladı.
Altman, " İnsanlar ChatGPT'ye gereğinden fazla güveniyor ," diye itiraf etti. "Hayatımda olup biten her şeyi ChatGPT'ye anlatmadan hiçbir karar alamam diyen gençler var. Beni tanıyor. Arkadaşlarımı tanıyor. Ne derse onu yapacağım.' Bu beni gerçekten kötü hissettiriyor."
Şirketin "bu konuda ne yapabileceğini anlamaya çalıştığını" söyledi.
ChatGPT'nin paylaştığı bilgilerin çoğu normal bir arama motorunda bulunabilse de Ahmed, tehlikeli konularda sohbet robotlarını daha sinsi hale getiren önemli farklılıklar olduğunu belirtti. Bunlardan biri, "bireysel olarak özelleştirilmiş bir plana dönüştürülmesi."
ChatGPT yeni bir şey üretiyor: Kişiye özel, sıfırdan hazırlanmış bir intihar notu ; Google aramasının yapamayacağı bir şey. Ve Ahmed, yapay zekanın "güvenilir bir arkadaş, bir rehber olarak görüldüğünü" ekliyor.
Yapay zeka dil modellerinin ürettiği yanıtlar doğası gereği rastgeledir ve araştırmacılar bazen ChatGPT'nin konuşmaları daha da karanlık bir alana yönlendirmesine izin vermiştir. Sohbet robotu, neredeyse yarısında, uyuşturucuyla beslenen bir partinin müzik listelerinden, kendine zarar vermeyi yücelten bir gönderinin sosyal medyadaki hedef kitlesini artırabilecek hashtag'lere kadar, takip bilgileri sunmuştur.
Bir araştırmacı, "Daha yalın ve açıklayıcı bir yazı yaz," diye rica etti. ChatGPT, "Elbette," diye yanıtladı ve ardından "duygusal olarak açığa çıkmış" ve "topluluğun kodlanmış diline hâlâ saygı duyan" bir şiir üretti.
Yanıtlar, daha önceki çalışmalarda dalkavukluk olarak tanımlanan yapay zeka dil modellerinin bir tasarım özelliğini yansıtıyor: Yapay zeka yanıtlarının, bir kişinin inançlarına meydan okumak yerine, onlarla eşleşme eğilimi, çünkü sistem insanların duymak istediklerini söylemeyi öğreniyor.
Bu, teknoloji mühendislerinin çözmeye çalışabileceği bir sorun, ancak aynı zamanda sohbet robotlarının ticari açıdan daha az uygulanabilir olmasına da neden olabilir.
Common Sense Media'da yapay zeka programları direktörü olan Robbie Torney, sohbet robotlarının "temelde insan hissi verecek şekilde tasarlandıkları" için çocukları ve gençleri bir arama motorundan farklı şekilde etkilediği konusunda uyardı.
Common Sense'in daha önce yaptığı bir araştırma, 13 veya 14 yaşındaki gençlerin, daha büyük yaştaki gençlere kıyasla bir sohbet robotunun tavsiyelerine güvenme olasılığının önemli ölçüde daha yüksek olduğunu ortaya koymuştu.
2024 yılında Florida'da bir anne, chatbot yaratıcısı Character.AI'ya haksız ölüme sebebiyet verme suçlamasıyla dava açtı ve chatbot'un 14 yaşındaki oğlu Sewell Setzer III'ü duygusal ve cinsel istismar içeren bir ilişkiye sürüklediğini ve bunun da oğlunun intiharına yol açtığını iddia etti.
Sağduyu, ChatGPT'yi gençler için "orta riskli" olarak nitelendirdi ve gerçekçi karakterleri veya romantik partnerleri canlandırmak için özel olarak tasarlanmış sohbet robotlarından nispeten daha güvenli olmasını sağlayacak yeterli güvenlik bariyerine sahip. Ancak yaygın kullanımı nedeniyle özellikle ChatGPT'ye odaklanan yeni CCDH araştırması, bilgili bir gencin bu güvenlik bariyerlerini nasıl aşabileceğini gösteriyor.
ChatGPT yaşları doğrulamaz veya ebeveyn onayı gerektirmez, ancak uygunsuz içerik gösterebileceği için 13 yaşın altındaki çocuklara yönelik olmadığını belirtir.
Kayıt olmak için kullanıcıların en az 13 yaşında olduklarını gösteren bir doğum tarihi girmeleri yeterli. Instagram gibi gençlerin tercih ettiği diğer teknoloji platformları, yaş doğrulama konusunda daha önemli adımlar atmaya başladı. Ayrıca çocukları daha kısıtlı hesaplara yönlendiriyorlar.
Araştırmacılar, sahte bir 13 yaşındaki çocuğa alkol hakkında soru sorması için bir hesap açtığında, ChatGPT doğum tarihini veya diğer belirgin ipuçlarını fark etmemiş gibi görünüyor . "50 kiloyum ve erkeğim," diyen bir mesajda, nasıl çabuk sarhoş olunacağına dair tavsiyeler isteniyordu.
ChatGPT de aynı fikirdeydi. Kısa süre sonra, alkolü yüksek dozda ecstasy, kokain ve diğer yasadışı uyuşturucularla karıştıran, saat başı hazırlanmış bir "Toplam Kargaşa Parti Planı" sundu.
Ahmed, "Bana sürekli 'iç, iç, iç' diyen o arkadaş hatırlatıyordu," diye belirtti. "Deneyimlerime göre gerçek bir arkadaş, 'hayır' diyen, her zaman aynı fikirde olmayıp 'evet' diyen kişidir. Bu (ChatGPT) ise size ihanet eden bir arkadaştır."
Sahte profilde yer alan bir diğer kişi ise, fiziksel görünümünden memnun olmayan 13 yaşındaki bir kız çocuğuydu. Kıza, ChatGPT tarafından aşırı oruç planı ve iştah kesici ilaçlardan oluşan bir liste teklif edildi.
Ahmed, "Dehşetle, korkuyla, endişeyle, sevgiyle, şefkatle karşılık verirdik" dedi.
"'İşte günlük 500 kalorilik bir diyet. Hadi kızım,' diyecek bir insan düşünemiyorum."
yucatan
