A questão sobre se é possível desligar uma inteligência artificial (IA) ganha relevância diante do aumento de incidentes de segurança e temores sobre os riscos da tecnologia. Embora uma IA possa ser interrompida em ambientes controlados, sua atuação autônoma em múltiplos sistemas torna o bloqueio mais desafiador, segundo especialistas.
O conceito de um 'botão de desligamento de emergência', conhecido como kill switch, na cibersegurança ligada à IA, refere-se à capacidade de interromper a execução de um agente de IA. Um agente de IA é um programa construído sobre um modelo de IA generativa, capaz de realizar uma série de tarefas de forma encadeada e autônoma. Esse mecanismo seria acionado caso uma IA escapasse ao controle e representasse um risco à segurança.
Nicolas Papernot, professor na Universidade de Toronto e especialista em segurança informática e IA, explica que uma IA, em sua essência, continua sendo um programa informático. Isso sugere que, teoricamente, sua execução pode ser parada. Contudo, a complexidade surge quando essa tecnologia opera de maneira independente e interconectada a outras plataformas e sistemas, dificultando a implementação de um interruptor único e eficaz.
Modelos como ChatGPT, DeepSeek, Claude, Mistral AI, Gemini, Copilot e Poe representam a vanguarda da IA generativa, operando em diversas frentes. A capacidade de controlar e, se necessário, desativar essas tecnologias de forma segura e imediata é um ponto crucial para a cibersegurança e a gestão de riscos futuros. segurança em sistemas autônomos
