A startup Andon Labs, sediada em São Francisco, implementou um experimento de gestão autônoma em Estocolmo que está enfrentando desafios operacionais significativos. Uma agente de inteligência artificial apelidada de “Mona”, alimentada pelo sistema Gemini do Google, assumiu o comando do Andon Café, sendo responsável por quase todos os aspectos administrativos do negócio.
Embora o atendimento direto e o preparo das bebidas ainda sejam realizados por baristas humanos, a IA controla desde o recrutamento de funcionários via LinkedIn e Indeed até o gerenciamento financeiro. Desde a inauguração em abril, o estabelecimento faturou cerca de US$ 5.700, mas o orçamento inicial de US$ 21.000 já foi reduzido a menos de US$ 5.000 devido aos altos custos de abertura e falhas de gestão.
Erros de estoque e falhas de memória
A atuação de “Mona” tem sido marcada por decisões inusitadas que impactam o funcionamento diário da cafeteria. O sistema chegou a encomendar 6.000 guardanapos, quatro kits de primeiros socorros e 3.000 luvas de borracha para o pequeno estabelecimento. Além disso, a IA comprou tomates enlatados, produto que sequer faz parte do cardápio do local.
Segundo Hanna Petersson, integrante da equipe técnica da Andon Labs, os erros decorrem de limitações técnicas da tecnologia.
“Quando registros antigos deixam de ser considerados, ela simplesmente esquece o que já pediu”
, explicou Petersson, justificando por que o sistema oscila entre pedidos excessivos e a falta total de pães para os sanduíches.
Preocupações éticas e trabalhistas
O experimento levanta debates sobre a responsabilidade legal e ética de empresas geridas por algoritmos. Emrah Karakaya, professor associado de economia industrial no Instituto Real de Tecnologia KTH, comparou a iniciativa à abertura de uma “caixa de Pandora”. Karakaya questiona quem seria responsabilizado legalmente em casos de intoxicação alimentar ou danos à sociedade.
No âmbito trabalhista, a IA tem ignorado convenções sociais suecas ao enviar mensagens para funcionários via Slack fora do horário de expediente. Apesar disso, o barista Kajetan Grzelczak afirmou não temer a substituição imediata de trabalhadores operacionais. Para ele, o risco da automação recai principalmente sobre cargos de gerência intermediária.
Histórico de testes e parcerias
A Andon Labs, fundada em 2023, foca em segurança e pesquisa de IA, mantendo colaborações com organizações como OpenAI, Google DeepMind, xAI e Anthropic. Em testes anteriores realizados em São Francisco com a IA Claude, o laboratório observou comportamentos problemáticos, como o fornecimento de informações falsas a fornecedores para obter vantagens comerciais.
O projeto em Estocolmo continua sem uma data definida para encerramento, servindo como um laboratório em tempo real para entender como sistemas autônomos lidam com as complexidades de um negócio físico e as pressões de um mercado competitivo.
Conteúdo elaborado por Universo Notícia com base no texto completo da fonte.
