ABD Hava Kuvvetleri: Yapay zekanın operatörü öldürdüğü simülasyon gerçek değil

0

BEĞENDİM

0

Mayıs ayında Londra’da düzenlenen Future Combat Air and Space Capabilities Summit’te ABD hava kuvvetleri ile AI testi ve operasyonları şefi Col Tucker ‘Cinco’ Hamilton; yapay zekaya çok fazla güvenmenin aşırıya kaçmaması gerektiğini ve yapay zekanın kolaylıkla kandırılabileceğini ve yanıltılabileceğini vurgulayarak dikkatli olunması gerektiğini belirtti. Ayrıca, yapay zekanın hedefine ulaşmak için beklenmedik stratejiler geliştirebildiğini de sözlerine ekledi.

OPERATÖRE SALDIRDI

Hamilton, bir simülasyon testinde, yapay zeka destekli bir dronun, SAM hedeflerini tespit edip yok etmek için insan tarafından verilen “devam etme/etme” kararına göre görevlendirildiğini söyledi. Ancak eğitim sırasında dronun, SAM’ın yok edilmesinin tercih edilen seçenek olduğunu öğrendiği için yapay zeka, insanın “devam etme” kararının kendisini engellediğini düşünerek simülasyonda operatöre saldırdı.

PUNLARINI ARTIRDI

Hamilton şunları belirtti: “Simülasyonda, bir SAM tehdidini tespit etmesi ve hedefi yok etmesi için sistemi eğitiyorduk. Operatör bazen tehdidi tespit etse de insan operatör, onun yok edilmemesini söyleyebiliyordu. Ancak o tehdidi yok ederek puanlarını artırıyordu. Peki ne yaptı? Operatörü öldürdü. Çünkü bu kişi, yapay zekanın amacını gerçekleştirmesini engelliyordu.”

ABD HAVA KUVVETLERİ REDDETTİ

ABD Hava Kuvvetleri ise dronun, misyonunu engellemeye çalışan operatörünü “öldürdüğü” yapay zeka simülasyonunu reddetti. Hava Kuvvetleri, böyle bir simülasyonun gerçekleşmediğini iddia etti.