5.8 C
New York kenti
Salı, Kasım 17, 2026

Buy now

OpenAI’dan çocuk istismarına karşı yeni yapay zeka hamlesi!

OpenAI, çocuk istismarını içeren görüntüleri yapay zeka desteğiyle tespit edebilen yeni aracını duyurdu. Şirket, ChatGPT’de bu tür zararlı içerikleri arayan kullanıcılara uyarı verecek, işaretlenen sohbetleri kaldıracak ve erişimi 24 saatliğine durduracak. Tekrarlanan ihlallerde hesaplar kapatılabilecek.

Şirketin internet sitesinde yayımlanan açıklamaya göre, yeni görüntü sınıflandırma aracı, çocukların istismarını içeren ve daha önce tespit edilmemiş görselleri belirlemek için görsel işaretleri analiz ediyor.

Araç, inceleme ekiplerine hangi görüntülerin öncelikli olarak değerlendirilmesi gerektiğini gösteren puanlar sunuyor.

OpenAI, yapay zeka tarafından üretilmiş çevrim içi çocuk istismarı içeriklerini tespit etmeye yönelik özel bir sinyal sunan ve geniş erişime açılan ilk sınıflandırma aracı olduğunu belirttiği sistemi, onaylanmış kuruluşların kullanımına ücretsiz sunacak.

CHATGPT’DE ZARARLI DAVRANIŞLARA YÖNELİK UYARILAR DEVREYE GİRECEK

OpenAI, mevcut güvenlik önlemlerine ek olarak ChatGPT’de çocuk istismarı içeriği arama girişimlerini kesintiye uğratacak yeni uyarı mekanizmaları uygulayacağını duyurdu.

Bu kapsamda kullanıcıya, çocuklara yönelik istismar sayılabilecek içeriklerin yapay zeka tarafından üretilmiş olsa dahi zarara yol açtığı açıklanacak

İşaretlenen sohbet kaldırılacak ve kullanıcının ChatGPT’ye erişimi 24 saatliğine durdurulacak. Bu süreçte zararlı davranışları sonlandırmaya yönelik uzman desteği de sunulacak.

İhlallerin tekrarlanması halinde daha uzun süreli kısıtlamalar uygulanabilecek, hesabın kapatılması veya durumun yetkililere bildirilmesi söz konusu olabilecek.

Şirket, bu yaklaşımı çocukların istismarını önlemeye yönelik çalışmalar yürüten kuruluşlar ve akademik danışmanların katkısıyla geliştirdiğini bildirdi. ​​​​​​​ (AA)

SON GİRİLEN İÇERİKLER