Güney Koreli KAIST araştırmacıları, yapay zekanın yanlış bilgi üretme sorununu azaltmak için yeni bir eğitim yöntemi geliştirdi. Detaylar Nature Machine Intelligence’ta.
Güney Koreli bilim insanları, yapay zekanın (YZ) yanlış bilgi üretme, yani “halüsinasyon” sorununu azaltmak amacıyla yeni bir eğitim yöntemi geliştirdi. Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) araştırmacıları, bu yöntemle YZ’nin bilmediği durumlarda bunu kabul etmesini hedefliyor. Bulgular, Nature Machine Intelligence dergisinde yayımlandı.
Uzmanlar, yapay zekanın “aşırı özgüven” sorununu en önemli problemlerden biri olarak tanımlıyor. Özellikle sağlık gibi kritik sektörlerde kullanılan sistemler, kesin bilgiye sahip olmadıkları konularda dahi net yanıtlar verebiliyor.
OpenAI tarafından geliştirilen ChatGPT gibi büyük dil modelleri, zaman zaman hatalı bilgileri gerçekmiş gibi sunabiliyor. Teknoloji dünyası bu durumu “halüsinasyon” olarak adlandırıyor.
KAIST araştırmacıları, yapay zekanın bu sorununu çözmek için insan beyninin çalışma prensiplerinden esinlendi. İnsan beyninin doğum öncesinde dahi dış uyaran olmadan sinyaller üretebildiği biliniyor. Araştırma ekibi, benzer bir mekanizmayı yapay zeka modellerine uyguladı.
Geliştirilen yöntemde, yapay zeka modeli gerçek verilerle eğitime başlamadan önce rastgele “gürültü” verileriyle kısa bir ön eğitimden geçiyor. Bu süreç, modelin öğrenmeye başlamadan kendi belirsizliğini tanımasını sağlıyor.
Araştırmacılar, bu yöntemin yapay zekanın başlangıçtaki aşırı güvenini azalttığını belirtiyor. Sistemler, eğitimde karşılaşmadıkları konularda yanlış yanıtlar vermek yerine daha düşük güven düzeyinde cevaplar üretiyor. Yeni yaklaşım, yapay zekanın “bildikleriyle bilmediklerini ayırt etme” becerisini önemli ölçüde geliştiriyor.
Bilim insanları, geliştirilen yöntemin otonom araçlar, tıbbi teşhis sistemleri ve karar destek teknolojileri gibi kritik alanlarda önemli faydalar sağlayacağını öngörüyor. Bu alanlarda hata payının minimum düzeyde olması, YZ’nin belirsizliğini ifade edebilmesini daha da önemli kılıyor.
Çalışmanın yazarlarından Se-Bum Paik, “Bu çalışma, yapay zekanın kendi bilgi durumunu insanlara daha benzer şekilde tanıyabileceğini gösteriyor” açıklamasını yaptı. Araştırmacılar, hedeflerinin yalnızca YZ’nin doğru yanıt oranını artırmak olmadığını, aynı zamanda ne zaman emin olmadığını anlamasını sağlamak olduğunu vurguladı.
Yorum Yap