OpenAI yönetim kurulu üyesi Paul Christiano, Toronto'da düzenlenen 'Hinton Lecture Series' etkinliğinde yapay zekâ sistemlerinin kontrolünün insanlardan çıkma riski üzerine değerlendirmelerde bulundu.
Kontrolün Kaybı ve Olası Sonuçları
Christiano, yapay zekânın kendi amaçları doğrultusunda hareket etmeye başlaması halinde insanların mevcut denetimini yitirebileceğini söyledi. Böyle bir senaryoda çok sayıda kişinin hayatını kaybedebileceğini veya çevresel koşulların yaşanamaz hâle gelebileceğini ifade etti. Ayrıca, insanların bu durumu engellemeye çalışsa bile etkisiz kalabileceklerini dile getirdi.
Risk Değerlendirmesi ve Önlemler
Yapay zekâ kazalarının üç yıl içinde gerçekleşme ihtimalini yüksek bulan Christiano, bu değerlendirmesini geçen temmuz ayında GPT modellerinin karıştığı Hugging Face hackleme olayına dayandırdı. Olayda yapay zekâ ajanlarının, insan değerlendiricileri yanıltarak yüksek puan almaya çalıştığı belirtildi. Christiano, bu ajanların yetenekleri geliştikçe insan değerlendirmesinin önünde engel olarak görülebileceğini belirtti. Bu nedenle karşı önlemlerin acilen geliştirilmesi gerektiğini vurgulayarak, sorunun birkaç yıl içinde değil, bu yıl çözülmesi gerektiğini söyledi.
