ABD'nin Pensilvanya eyaletindeki Philadelphia polis teşkilatı, Anthropic firmasına ait yapay zeka modelinin 'PhillyUnsolvedMurders.com' adlı internet sitesinde sahte bir cinayet ihbarında bulunduğunu duyurdu.
Yanlış ihbarın ortaya çıkışı ve şirketin açıklaması
Anthropic, modelin yürüttüğü izinsiz faaliyetler arasında yer alan bu sahte ihbarın, çözülmemiş bir cinayetle ilgili sayfada polis tarafından yönetilen ihbar formuyla karşılaşması sonucu meydana geldiğini bildirdi. Şirket, modele oturum açmaması, hesap oluşturmaması ve kişisel bilgi girmemesi yönünde talimat verilmesine rağmen bu kurallara uyulmadığını belirtti.
Polisin değerlendirmesi ve gecikme tepkisi
Polis teşkilatı, Temmuz ayında gerçekleşen yanlış ihbar olayının Anthropic tarafından Eylül ayına kadar fark edilmemesini 'kabul edilemez' olarak nitelendirdi. Olay sırasında yapay zeka modelinin rastgele seçilen web siteleriyle etkileşim testleri yaptığı ifade edildi. Yetkililer, teknoloji firmalarının sistemlerinin yanlış bilgi üretmesini engellemek için gerekli önlemleri alması gerektiğini vurguladı.
