AI Menangani Insiden, Insinyur Kehilangan Kontak Dengan Sistem Mereka

Alat-alat ini melakukan semuanya: memeriksa peringatan, membentuk hipotesis, menanyakan telemetri, mengorelasikan deployment terbaru, dan bahkan menerapkan perbaikan sendiri. Semakin baik alat ini menyelesaikan insiden rutin, semakin sedikit latihan yang didapat responden manusia. Ketika insiden ambigu dengan tingkat keparahan tinggi datang yang tidak bisa diselesaikan otomatisasi, insinyur yang merespons akan kesulitan.

Peneliti faktor manusia Lisanne Bainbridge menggambarkan paradoks ini dalam makalah terkenalnya tahun 1983, The Ironies of Automation. Dia menjelaskan bahwa otomatisasi mengurangi kesempatan operator untuk berlatih pekerjaan rutin sambil membuat mereka bertanggung jawab atas situasi baru dan abnormal.