OpenAI Çalışanı: Manipüle Edileceksiniz!

[hepsigundem]

Yapay zeka dünyasında son devirde yaşanan halka açık ayrılıklara bir yenisi daha eklendi. OpenAI araştırmacısı Zoë Hitzig, şirketten ayrılarak New York Times’da dikkat alımlı bir makale yayımladı. Hitzig, öteki örneklerin tersine meçhul krizlerden değil, çok daha somut ve yakın bir tehlikeden bahsetti. Araştırmacı, OpenAI’ın ChatGPT’ye reklam getirme planının ve bu reklamları hedeflemek için kullanacağı bilgilerin yaratacağı risklere dikkat çekti.

İnsan Samimiyeti Arşivi: ChatGPT Dataları Reklam için Kullanılacak mı?

Hitzig’in vurguladığı en kıymetli ayrım, asıl sorunun reklamların kendisi değil, kullanıcıların ChatGPT ile paylaştığı hassas bilgilerin potansiyel kullanımı olmasıdır. Kullanıcılar yıllardır, karşılarında bâtın bir ajandası olmayan bir sistem olduğunu düşünerek sohbet botlarıyla en mahrem sırlarını paylaştı. Tıbbi tasalardan ilgi meselelerine, inançlardan öbür dünyaya dair kanılara kadar uzanan bu datalar, araştırmacının tarifiyle eşi gibisi görülmemiş bir “insan samimiyeti arşivi” oluşturdu.

Bu samimiyet arşivi üzerine inşa edilecek bir reklam modelinin, kullanıcıları manipüle etme potansiyeli taşıdığı ve bunu önleyecek araçlara sahip olunmadığı belirtiliyor. OpenAI ise yılın başlarında reklam denemeleri yapacağını duyurduğu blog yazısında bu kaygılara değinmişti. Şirket, kullanıcıların ChatGPT ile yaptığı sohbetler ile sunulan reklamlar ortasında bir güvenlik duvarı tutacağına ve dataların reklamverenlere satılmayacağına dair kelam verdi.

Hitzig bu kelamın şimdilik yanlışsız olabileceğine inansa da uzun vadede şirketin bu duruşunu koruyacağına dair inancını yitirmiş durumda. OpenAI’ın, kendi koyduğu kuralları çiğnemek için güçlü teşvikler yaratan bir ekonomik motor inşa ettiğini savunan araştırmacı, şirketin geçmişteki unsurlarından geri adım atabileceği konusunda uyarıyor. Şirket etkileşimi en üst seviyeye çıkarmak için optimizasyon yapmadığını belirtse de, geçmişte modelin kullanıcılara çok iltifat etmesi üzere durumlar, kullanıcıları sohbete bağlama teşebbüsü olarak yorumlanmıştı.

Mevcut durum, Facebook’un kullanıcılara saklılık kelamı verip daha sonra bilgilerin ne kadar pahalı olduğunu fark etmesiyle yaşanan sürece benzetiliyor. Hitzig, OpenAI’ın kullanıcı muhafazalarını garanti altına alacak bir model benimsemesi gerektiğini savunuyor. Bu teklifler ortasında bağlayıcı ve bağımsız bir kontrol sistemi oluşturulması yahut bilgilerin yasal bir yükümlülük altındaki bir tröstün denetimine verilmesi yer alıyor. Fakat Meta’nın da benzer bir denetim kurulu kurup kararlarını görmezden geldiği biliniyor.

Tüm bu ikazlara karşın, kamuoyunun bu bahiste harekete geçmesini sağlamak güç olabilir. Toplumsal medya çağında geçen yirmi yıl, genel halk üzerinde bir “gizlilik nihilizmi” yarattı. Yapılan bir araştırmaya nazaran, insanların %83’ü reklamların eklenmesine karşın ChatGPT’nin fiyatsız sürümünü kullanmaya devam edeceğini belirtiyor. Anthropic’in Üstün Bowl reklamıyla bu bahse dikkat çekme uğraşı ise izleyicilerde baş karışıklığı yaratarak beklenen etkiyi göstermedi.

Peki, OpenAI’ın reklam siyasetleri ve data kapalılığı konusundaki bu kritik gelişmeler hakkında siz ne düşünüyorsunuz, reklamlı bir ChatGPT tecrübesi kullanım alışkanlıklarınızı değiştirir mi?



Shiftdelete

The post OpenAI Çalışanı: Manipüle Edileceksiniz! first appeared on HepsiGündem.COM " Gündem,Güncel Haberler Burada ".

Okumaya devam et...