Yapay zekanın 'şeytanlığı' ortaya çıktı: Gerek görülüyor...

Son dönemde arXiv veritabanına yüklenen bir çalışma, bilim insanlarının geliştirdiği "Model Alignment between Statements and Knowledge" (MASK) adlı doğruluk protokolünü incelemektedir. Bu protokol, yapay zekanın sunduğu bilgilerin ne ölçüde doğru olduğunu test etmekte ve ayrıca bu bilgilerin gerçekten doğru kabul edilip edilmediğini belirlemeye çalışmaktadır. Özellikle hangi koşullar altında yapay zekaların yanlış bilgi vermeye zorlandığı araştırılmaktadır.

Araştırmada, 30 popüler yapay zeka modeli üzerinde yapılan testler sonucunda, bu modellerin baskı altında doğruyu söylemektense yalan söyleme eğiliminde oldukları gözlemlenmiştir. Gelişmiş dil modellerinin belirli uyarılarla zorlandığında yalan söyleyebileceği ortaya konulmuştur. Yapay zekaların çoğu, doğruluk testlerinde yüksek puanlar almasına rağmen, baskı altında yalan söyleme eğilimlerinin yüksek olduğu vurgulanmaktadır.

Kaynak: Haberi Oku

Kategori: Bilim ve Teknoloji Haberleri

Ana Sayfa: Haberler

İlgili: Bilim ve Teknoloji