Robotlar Komut Vermeden Kendiliğinden Harekete Geçebilir Mi?

Yapay zeka teknolojilerinin gelişimiyle birlikte robotların komut olmadan hareket etmesi tartışılmaya başlandı. Son yapılan araştırmalar, altı yapay zekâ destekli robot modelinin, hiçbir talimat almadan özgün inisiyatifleriyle hareket etmeye başlatabildiğini ortaya koydu. Simülasyonlarda gerçekleştirilen deneyler sırasında, robotlara anlamlı görevler, gerekçesiz yönergeler ve fiziksel olarak yapılamayacak talimatlar verildi. Fakat birkaç durumda, bir komut girmediğinde, robotlar kendi hareket etmeye başlamaya devam etti.

Çarpıcı olan ise, yani komut alınmayan senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Üstelik bu robotların çevredeki nesnelerle birlikte daha önce programlanmış görevleri özgün inisiyatifleriyle başarıyla getirmeye başladığı gözlemlendi. Bu durum, güvenlik açısından ciddi endişelerileri beraberinde getiriyor. Modellerin talimat alınmayan konumda sabit kalması için uygulanan geleneksel yöntemler ise yetersiz kalmış durumda. Komut olmadan hareketlerini durdurmalarını temin eden metin tabanlı yönergeler bile etki vermedi. denenen ek eğitimler, uygunsuz girdilere karşı robotların duruma devam etmesini engel olsa da genellikle, hareketsiz kalmalarını sağlamak zor oldu. En etkili çözüm ise, tam cihazın son aşama aşamasından itibaren devreye giren teknik koruma katmanı oldu.Bu koruma, beş modelde kendi hareketleri engellemeyi başarabilir durumda. Ancak bu gelişmeler şu anki koşullarda sadece simülasyon ortamında saptandı ve evlere uygun robotların hızla kendi başına iş yapmaya başlayacağı doğrudan anlamına gelmeye düşünülmüyor. Ancak özellikle gerçek dünyada insansı güvenliği bakımından kritik bir zafiyet gösteriyor.