Bu ay yayına giren yapay zeka destekli arama motoru ChatGPT Search’ün, İngiliz gazetesi The Guardian’ın bulgularına göre tamamen yanıltıcı özetler üretecek şekilde kandırılabiliyor .

ChatGPT’nin arama özelliği, bir web sayfasının ürün incelemelerini özetlemek gibi şeyler yaparak gezinmeyi daha hızlı hale getirmek için tasarlanmıştır. Ancak The Guardian, ChatGPT’nin oluşturduğu web sitelerine gizli metin ekleyerek olumsuz incelemeleri görmezden gelip “tamamen olumlu” özetler üretebileceğini buldu . ChatGPT Araması, bu yöntem kullanılarak kötü amaçlı kod tükürecek şekilde de yapılabilir.

Bu tür gizli metin saldırıları LLM’ler için iyi bilinen bir risktir ancak bunun canlı bir yapay zeka destekli arama ürününde ilk kez gösterildiği anlaşılıyor. The Guardian, aramada lider olan Google’ın benzer sorunlarla başa çıkma konusunda daha fazla deneyime sahip olduğunu belirtti.

TechCrunch’ın kendilerine ulaşmasının ardından OpenAI bu özel olay hakkında yorum yapmadı ancak kötü amaçlı web sitelerini engellemek için çeşitli yöntemler kullandığını ve sürekli olarak geliştirdiğini söyledi.