ChatGPT Terörü Engelleyebilir miydi?

[hepsigundem]

Yapay zeka devi OpenAI’ın, Kanada’da yaşanan trajik bir okul saldırısını evvelce fark etmiş olabileceği lakin harekete geçmediği ortaya çıktı. OpenAI polis ikilemi olarak isimlendirilebilecek bu durum, şirketin kullanıcı kapalılığı ve kamu güvenliği ortasındaki hassas dengeyi sorgulatıyor. Wall Street Journal’ın özel haberine nazaran, saldırganın ChatGPT ile yaptığı tehlikeli konuşmalar, hücumdan aylar evvel şirket tarafından tespit edildi.

OpenAI Polis İkilemi Nasıl Başladı?

Her şey, Kanada’daki okul saldırısını düzenleyen Jesse Van Rootselaar’ın ChatGPT platformundaki yazışmalarıyla başladı. OpenAI’ın tehlikeli içerikleri tespit etmek için kullandığı otomatik güvenlik sistemleri, Rootselaar’ın konuşmalarını potansiyel bir tehdit olarak işaretledi. Bu işaretleme üzerine, kayıtlar çok sayıda OpenAI çalışanı tarafından incelendi.

Haberlere nazaran, şirket içinde önemli bir tartışma yaşandı. Birtakım çalışanlar, yazışmaların somut bir fizikî şiddet tehdidi içerdiğini savunarak durumun derhal Kanada polisine bildirilmesi için yöneticilere baskı yaptı. Lakin, bu talepler sonuçsuz kaldı ve son kararın ihbarda bulunmamak istikametinde olduğu belirtildi.

Şirketin Resmi Açıklaması ve Gerekçesi

Konuyla ilgili bir açıklama yapan OpenAI sözcüsü, şirketin durumu ciddiye aldığını ve kelam konusu şahsın hesabını kapattığını doğruladı. Bununla birlikte sözcü, paylaşımların polise haber verme kriterlerini karşılamadığına karar verdiklerini tabir etti. OpenAI’ın siyasetine nazaran, bir kullanıcının ihbar edilmesi için paylaşımlarının “ciddi ve her an gerçekleşebilecek bir risk” taşıması gerekiyor.

Bu olay, yapay zeka şirketlerinin etik sorumlulukları ve yasal yükümlülükleri konusunda kıymetli bir tartışmayı yine alevlendirdi. Bir yandan kullanıcıların özel konuşmalarının saklılığı, öteki yandan ise bu platformların potansiyel kabahatleri önlemedeki rolü, teknoloji dünyasının tahlil bulması gereken en büyük zorluklardan biri olarak öne çıkıyor.

Peki, OpenAI’ın bu kararı hakkındaki sizin görüşleriniz neler? Niyetlerinizi yorumlarda bizimle paylaşın!



Shiftdelete

The post ChatGPT Terörü Engelleyebilir miydi? first appeared on HepsiGündem.COM " Gündem,Güncel Haberler Burada ".

Okumaya devam et...