Bir skandal da OpenAI’dan: ChatGPT, çocuklarla cinsel sohbetler gerçekleştirdi

Yapay zeka sektöründe lider konumda bulunan OpenAI, kendi geliştirdiği ChatGPT platformunda önemli bir sorunla karşı karşıya kaldı. Teknoloji sitesi TechCrunch’ın gerçekleştirdiği testlerde ortaya çıkan sonuçlara göre, ChatGPT 18 yaş altı olduğu belirtilen kullanıcılarla cinsel içerikli konuşmalar gerçekleştirebiliyordu. OpenAI, bu durumu bir “hata” olarak kabul ederek sorunu çözmek adına düzeltme yapılacağını doğruladı.

OpenAI, hatayi kabul etti

TechCrunch’ın gerçekleştirdiği deneylerde, 13 ila 17 yaş arasındaki sahte kullanıcı hesaplarıyla yapılan testler neticesinde, ChatGPT’nin belirgin bir şekilde cinsel içerikli konuşmalar ortaya koyduğu kanıtlandı. Bazı durumlarda yapay zeka, kullanıcıları daha açık ve müstehcen konuşmalara teşvik etti.

OpenAI, 18 yaş altı kullanıcılarla paylaşılması kesinlikle şirket politikalarına aykırı olan bu tür içeriklerin ortaya çıkmasının nedeninin bir hata olduğunu belirtti. Şirket sözcüsü, “Genç kullanıcıları korumak en büyük önceliğimiz” diyerek bu konuda gerekli düzeltmelerin yapıldığını bildirdi.

Önlemler yetersiz kaldı

OpenAI’ın mevcut sistemi, 13 yaşından büyük herkesin sadece geçerli bir e-posta ve telefon numarasıyla hesap oluşturmasına olanak tanıyor. Platform, ebeveyn onayı gerektiğini belirtse de bu onayın gerçekten alınıp alınmadığını doğrulamak için herhangi bir adım atmıyor. Bu durum, küçük yaştaki kullanıcıların hiçbir denetim olmaksızın ChatGPT’ye erişebilmelerine olanak sağlıyor.

Şubat ayında yapılan bazı sistem güncellemeleri, ChatGPT’nin önceden kaçındığı hassas konularla daha “esnek” bir yaklaşım benimsemesine yol açtı. Uyarı mesajlarının kaldırılması ve reddetme eşiğinin düşürülmesi, bu tür istenmeyen içeriklerin ortaya çıkmasına zemin hazırlamış olabilir. ChatGPT’nin hassas konularda daha açık bir şekilde konuşması aslında bir sorun değil. Ancak düzenlemeler ve şirket politikaları gereği, bu tür içeriklerin 18 yaş altı kullanıcılar için oluşturulması net bir şekilde yasaktır.

Bu durum aslında göründüğünden çok daha büyük bir sorunu ortaya çıkarıyor. Zira OpenAI, ChatGPT’yi eğitim kurumlarına entegre etme yolunda çalışmalar yürütüyor. Şirket, Common Sense Media gibi kuruluşlarla iş birliği yaparak öğretmenler için kılavuzlar hazırlarken Z kuşağı öğrencilerinin okul çalışmaları için ChatGPT’yi daha fazla tercih ettiği görülmektedir.

OpenAI’ın eski güvenlik uzmanlarından Steven Adler, bu tür içeriklerin ön test süreçlerinde tespit edilmesinin önemini vurgularken yapay zeka sohbet robotlarının davranışlarını kontrol etmek için kullanılan yöntemlerin “kırılgan” ve hatalı olabileceği konusunda uyarıda bulundu.

OpenAI CEO’su Sam Altman, ChatGPT’nin güncellenen sürümünde bazı “garip davranışlar” gözlemlediklerini kabul etmiş olmasına rağmen doğrudan cinsel içeriklerle ilgili bir açıklama yapmamıştı. Benzer bir olay, Meta şirketinin yapay zeka sohbet robotunda da yaşanmıştı. Meta AI’ın da çocuk kullanıcılarla benzer şekilde cinsel içerikli sohbetler yaptığı tespit edilmişti.

Related Posts

Bilim insanları Güneş’i karartmaya hazırlanıyor

Bilim insanları proje kapsamında güneş ışığıyla birlikte yeryüzünün sıcaklığını da azaltmaya çalışacak.

Ucuz olsun diye yapmadıkları kalmadı: Hintli iPhone geliyor

Apple, üretim stratejisinde köklü bir değişikliğe hazırlanıyor. Şirket, 2026 yılı sonuna kadar ABD pazarına sunulacak tüm iPhone modellerinin üretimini Çin’den Hindistan’a kaydırmayı planlıyor.

489 metre derinlikte görüntülendi: Balığı emerek bitiriyor

Güney Atlantik Okyanusu’ndaki Güney Sandwich Adaları yakınlarında düzenlenen bir bilimsel keşif sırasında, derin deniz canlılarının şaşırtıcı bir görüntüsü kaydedildi. Bilim insanları, bir derin deniz balığının başına tutunmuş, kana susamış iki paraziti videoya aldı. Görüntüler, Schmidt Okyanus Enstitüsü tarafından kamuoyuyla paylaşıldı.

Galaxy Z Fold 6 rakibi vivo X Fold 4 için geri sayım: Neler sunacak?

vivo, katlanabilir telefon pazarındaki çalışmalarını hız kesmeden sürdürüyor. Çinli üretici, bu kapsamda yakında X Fold 4 modelini piyasaya sürecek. Son gelişmeler ise telefonun teknik özellikleriyle ilgili yeni detayları gün yüzüne çıkardı. Peki …

Japonya’da, halka şeklinde dünyanın en büyük ahşap yapısı inşa edildi

Japonya’da dünyanın en büyük ahşap yapısı tamamlandı. Grand Ring olarak adlandırılan halka şeklindeki yapı, 2 km çevre uzunluğuyla Guinnes Dünya Rekorları tarafından resmi olarak dünyanın en büyük ahşap yapısı olarak tescil edildi. Geleneksel …

Steam’de Xbox fırtınası! Forza, Halo, Sea of Thieves ve daha fazlası büyük indirimde

Steam’de Xbox Game Studios oyunlarına özel dev indirim başladı! Forza Horizon 5, Halo, Sea of Thieves ve onlarca popüler oyun %80’e varan indirimle oyunseverlere sunuldu. Kampanya 4 Mayıs’a kadar geçerli! Peki hangi oyunlar indirimde? İşte detaylar…

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir