Olay, Anhui eyaletine bağlı Chuzhou kentinde yaşandı. Yaklaşık bir yıldır gübreleme, ekim ve takvim planlaması gibi çeşitli konularda yapay zeka uygulamalarından yararlanan çiftçi, bu kez susam tarlasındaki yabani otlara karşı hangi yöntemi kullanması gerektiğini öğrenmek için aynı uygulamaya başvurdu.
Öneriyi kontrol etmeden uyguladı
Yapay zekanın sunduğu ilaçlama önerisini başka bir kaynaktan doğrulamayan çiftçi, tavsiye edilen ürünü tarlasında kullandı. Kısa süre sonra susam filizlerinin zarar gördüğü ve tarladaki mahsulün büyük bölümünün kuruduğu ortaya çıktı.
Konuyla ilgili inceleme yapan ziraat uzmanları, zararın "flufenaset" etken maddesi içeren ot ilacından kaynaklandığını belirtti. Uzmanlara göre söz konusu madde, uygun şekilde ve hedefe yönelik kullanılmadığında susam gibi bazı ürünlere ciddi zarar verebiliyor.
Uygulamanın kendi uyarısı da var
Olayın dikkat çeken ayrıntılarından biri ise yapay zeka uygulamasının kullanıcıya önceden uyarıda bulunması oldu.
Uygulamanın ekranında, verilen bilgilerin hatalı olabileceği ve yanıtların doğrulanması gerektiğine ilişkin bir uyarının bulunduğu belirtildi. Ancak çiftçinin aldığı tavsiyeyi ek bir uzman görüşüyle kontrol etmeden uyguladığı aktarıldı.
Yaşanan olay, yapay zekanın özellikle tarım, sağlık ve benzeri uzmanlık gerektiren alanlarda sunduğu bilgilerin doğrudan uygulanmasının risklerini yeniden gündeme getirdi.
Sağlık alanında da benzer vakalar yaşandı
Yapay zekadan alınan bilgilerin doğrulanmadan uygulanmasının sağlık açısından da ciddi sonuçlar doğurabildiği daha önceki vakalarda görülmüştü.
Geçen yıl bir kullanıcı, sofra tuzunu azaltma konusunda aldığı yapay zeka tavsiyesini yanlış yorumlayarak beslenmesinde sodyum bromür kullanmaya başladı. Yaklaşık üç ay boyunca bu kimyasala maruz kalan kişi, brom zehirlenmesi nedeniyle hastaneye kaldırıldı ve psikoz tedavisi gördü.
Annals of Internal Medicine'de yayımlanan bir incelemede de yapay zeka sistemlerinin zaman zaman bilimsel açıdan hatalı veya yanıltıcı bilgiler üretebildiğine dikkat çekildi.
Çin'deki olay, yapay zekanın günlük yaşamda giderek daha fazla kullanılmasıyla birlikte, özellikle uzmanlık gerektiren konularda verilen tavsiyelerin mutlaka alanında uzman kişiler ve güvenilir kaynaklarla doğrulanması gerektiğini bir kez daha gösterdi.