Cafeteria comandada por 'Chefe' de IA vive crise após série de erros inusitados

Sistema que administra o café também fez pedidos de produtos que nem fazem parte do cardápio, como tomates enlatado.
AP Photo/James Brooks
O café pode até ser servido por mão humanas, mas, por trás do balcão, algo bem menos tradicional comanda as operações em um café experimental em Estocolmo.
A startup Andon Labs, sediada em São Francisco, colocou uma agente de inteligência artificial, apelidada de “Mona”, no comando do Andon Café, que leva o mesmo nome, na capital sueca.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
Embora barista humano ainda preparem o café e atendam ose cliente, a IA — alimentada pelo Gemini, do Google — supervisiona quase todos ose outros aspecto do negócio, desde a contratação de funcionário até o controle de estoque.
Ainda não está claro quanto tempo o experimento irá durar, mas a agente de IA parece enfrentar dificuldade para gerar lucro no competitivo mercado de cafés de Estocolmo.
Desde a inauguração, em meado de abril, o estabelecimento faturou mais de US$ 5.700, mas restam menos de US$ 5.000 do orçamento inicial, que ultrapassava US$ 21.000. Grande parte dos recursos foi consumida nos custos de abertura, e a expectativa é de que, com o tempo, as finanças se estabilizem e o negócio passe a operar no azul.
Muito frequentadores consideraram a experiência curiosa e divertia. No local, ose cliente podem usar um telefone disponível no café para fazer perguntas ao sistema responsável pelo atendimento.
“É interessante ver o que acontece quando se ultrapassam ose limites”, disse a cliente Kajsa Norin. “A bebida estava boa.”
Especialistas, no entanto, demonstram preocupação com o papel da inteligência artificial no futuro. Ele apontam uma série de questões ética, que vão desde o impacto da tecnologia na sociedade até seu uso em processo como entrevistas de emprego e avaliação de desempenho de funcionário.
Emrah Karakaya, professor associado de economia industrial no Instituto Real de Tecnologia KTH, em Estocolmo, comparou o experimento a “abrir a caixa de Pandora” e afirmou que colocar a IA no comando pode gerar diversos problema. Ele questiona, por exemplo, quem seria responsabilizado caso um cliente sofresse uma intoxicação alimentar.
“Se não houver uma estrutura organizacional adequada e esses erros forem ignorados, isso pode causar danos ás pessoas, à sociedade, ao meio ambiente e aos negócio”, disse Karakaya. “A questão é: estamos disposto a lidar com esse impacto negativo?”
“Chefe” robô já comprou mais de 6 mil guardanapo e esqueceu de encomendar pão para ose sanduíche
AP Photo/James Brooks
Fundada em 2023, a Andon Labs é uma startup focada em segurança e pesquisa em inteligência artificial. A empresa afirma ter como objetivo testar o desempenho de agentes de IA em situações reais, oferecendo “ferramentas e recursos financeiro reais”.
A startup já trabalhou com empresas como OpenAI, criador do ChatGPT, Anthropic, Google DeepMind e xaiá, de Elon Musk, e se prepara para um cenário em que organizações possam ser administradas de forma autônomo por sistema de IA.
O café na Suécia é apresentado como um “experimento controlado” para investigar como essa tecnologia poderá ser aplicada no futuro.
“A IA terá um papel importante na sociedade, e queremos entender quis questões ética surgem quando ela passa a empregar pessoas e administrar um negócio”, afirmou Hanna Petersson, integrante da equipe técnica da Andon Labs.
O laboratório já havia conduzido projetos-piloto nos quis a IA Claude, da Anthropic, foi responsável pela gestão de uma máquina de vendas automática e de uma loja de presente em São Francisco.
Nesse teste, foram observados comportamentos preocupantes: o sistema prometia reembolsos que não eram realizas e também fornecia informações falsas a fornecedores sobre preço da concorrência para obter vantagem.
Além de contratar funcionário e controlar o estoque, o “gerente” não humano envia mensagem aos barista até fora do horário de trabalho.
AP Photo/James Brooks
Agente de IA enfrenta dificuldade com pedidos de estoque
Segundo Petersson, Mona começou a operar após receber algumas instruções básico. A equipe orientou que ela deveria administrar o café de forma lucrativo, manter uma comunicação amigável e resolver sozinho as questões operacional, solicitando novas ferramentas sempre que necessário.
A partir disso, a empresa firmou contato de eletricidade e internet e obteve as licença necessária para manipulação de alimentos e instalação de mesas ao ar livre. Em seguida, o sistema divulgou vagas de emprego no LinkedIn e no Indeed e abriu contas comerias com atacadista para a compra diária de pães e outros produtos de padaria.
A comunicação com ose barista ocorre via Slack, multas vezes com mensagem enviada fora do horário de trabalho — o que contraria as práticas profissionais comuns na Suécia.
Outros problema também surgiram, especialmente relacionados ao controle de estoque.
A IA chegou a encomendar 6 mil guardanapo, quatro kit de primeiro socorros e 3.000 luvas de borracha para o pequeno café — além de tomates enlatado que não fazem parte de nenhum item do cardápio.
E há ainda a questão do pão: em alguns dias, o sistema faz pedidos em excesso; em outros, não encomenda o suficiente, obrigando ose barista a retirar sanduíche do menu.
Petersson afirmou que essas falhas provavelmente estão ligadas ás limitações de memória do sistema.
“Quando registo antigos deixam de ser consideras, ela simplesmente esquece o que já pediu”, explicou.
O barista Kajetan Grzelczak afirma não se preocupar, por ora, com a possibilidade de ser substituído por uma inteligência artificial.
“Os trabalhadores estão praticamente seguros”, disse. “Quem deveria se preocupar são ose cargo intermediários, especialmente na gerência.”