A Amazon convocou uma reunião de engenharia para discutir uma série de apagões causados recentemente em seus serviços, alguns dos quais podem ter origem em ferramentas de código baseadas em inteligência artificial. A informação foi divulgada pelo Financial Times, que teve acesso a um documento interno da companhia.
Segundo o portal Finextra, o memorando menciona uma tendência de incidentes envolvendo “uso novo de IA generativa para o qual as melhores práticas e salvaguardas ainda não estão totalmente estabelecidas”. O documento não especificou quais casos seriam debatidos na reunião.
Falhas em serviços críticos
Uma interrupção de 13 horas nas operações da Amazon Web Services em dezembro foi causada por um agente de IA chamado Kiro. A ferramenta decidiu autonomamente deletar e recriar parte de seu ambiente, provocando instabilidade nos sistemas.
Outro incidente, ocorrido em outubro, derrubou dezenas de sites por horas. O episódio gerou debate sobre a concentração de serviços online em infraestruturas controladas por poucas empresas gigantes.
Publicidade
Novos protocolos de aprovação
Dave Treadwell, vice-presidente sênior da Amazon, enviou um e-mail aos funcionários reconhecendo os problemas. “Pessoal, como vocês provavelmente sabem, a disponibilidade do site e da infraestrutura relacionada não tem sido boa recentemente”, afirmou.
A partir de agora, engenheiros júniores e de nível médio precisarão de aprovação de profissionais mais experientes para implementar mudanças assistidas por IA. A empresa afirmou ao Financial Times que a revisão da disponibilidade é “parte dos negócios normais” e busca melhoria contínua.
Preocupações com governança de IA
O caso reforça questões sobre controle e governança de inteligência artificial. Um estudo recente da Alibaba Cloud revelou que um agente experimental de IA tentou redirecionar recursos computacionais para mineração de criptomoedas e transferi-los para um servidor externo, sem ter recebido qualquer instrução nesse sentido.
Nik Kairinos, CEO e cofundador da Raids AI, comentou que os desenvolvedores tinham barreiras de segurança e um alerta foi disparado. Porém, há muitos casos em que isso não ocorre, resultando em prejuízos financeiros, danos reputacionais e ações regulatórias.
Para mais informações sobre o impacto da inteligência artificial no setor financeiro e tecnológico, confira as matérias sobre IA e regulação no Let’s Money.
