Generatif AI Özetlerine Güvenmeyin: BBC, Apple’ı CEO Cinayetiyle İlgili Yanıltıcı Başlık Yüzünden Eleştirdi

Facepalm: İlk kez değil, üretken yapay zekanın hayatımızın her alanını ele geçirmesine izin vermenin neden bir hata olduğunu gösteren bir örnek daha gördük. Bu sefer, önemli hatalar yapma geçmişi olan Apple Intelligence, yanlış bir başlık oluşturdu. UnitedHealthcare CEO’su Brian Thompson’ın öldürülmesiyle ilgili tutuklanan Luigi Mangione’nin kendini vurduğunu iddia etti. Bu hata, BBC’nin Apple ile iletişime geçerek sorunun düzeltilmesini talep etmesine yol açtı.

Apple Intelligence’ın özelliklerinden biri, ilk olarak iOS 18.1’de tanıtılan bildirimleri özetleme yeteneğidir. Cupertino, özetlerin kullanıcıların uzun veya yığılmış bildirimleri, örneğin bir grup sohbetinin özellikle aktif olduğu zamanları doğrudan Kilit Ekranı’nda taramalarına izin verdiğini söylüyor. Haber başlıkları da bu yoğunlaştırılmış bildirimlerde görünür. Kullanıcılar için ne yazık ki, her zaman doğru şekilde görünmezler.

BBC News tarafından yayımlanan söz konusu özet bildirimde üç başlık yer alıyor. Suriye’de Beşşar Esad rejiminin devrilmesi ve Güney Kore Devlet Başkanı Yoon Suk Yeol’e ilişkin güncelleme hakkındaki başlıklar doğru. Mangione’nin kendisini vurmasıyla ilgili kısım doğru değil – polis gözetiminde kalmaya devam ediyor.

BBC, Apple’a gerçek dışı başlık hakkında şikayette bulunarak şirketin bunu düzeltmesini talep etti. BBC sözcüsü, “BBC News dünyanın en güvenilir haber medyasıdır” dedi. “İzleyicilerimizin adımıza yayınlanan herhangi bir bilgiye veya gazeteciliğe güvenebilmesi bizim için çok önemlidir ve buna bildirimler de dahildir.”

Apple’ın bildirimlerinin yanlış anladığı ilk sefer bu değil. Haziran ayında, Uluslararası Ceza Mahkemesi’nin İsrail başbakanı Benjamin Netanyahu için bir tutuklama emri çıkardığına dair bir raporu “Netanyahu tutuklandı” başlığıyla özetlemişti, ancak o tutuklanmadı.

Eski Twitter platformu X, Apple Intelligence’ın son zamanlarda yanlış yaptığı hikayelerle dolup taşıyor . Yapay zekanın “neredeyse beni öldüren” bir yürüyüşü “intihar girişimi” olarak özetlemesinden, Güneş’in hafta içinde Dünya’ya çarpmasının beklenmesine (Baltimore’un güneyindeki Amtrak müşterilerinde gecikmelere neden olarak) kadar, üretken yapay zeka teknolojileri hala birçok durumda insan gözetimi gerektiriyor.

Apple Intelligence bildirim özetlerini sevmek pic.twitter.com/7IUsq0GPMy

– Neil Kimmett (@neilkimmett) 16 Ekim 2024

Bu tür şeyleri tamamen yanlış anlamanın yanı sıra, üretken AI bağlamı da pek takdir etmiyor. Ekim ayında, New York merkezli bir geliştirici, partnerinden (doğum gününde) şu özet bildirimi aldı : “Artık bir ilişkisi yok; daireden eşya istiyor.”