{"id":158,"date":"2026-06-13T06:12:15","date_gmt":"2026-06-13T09:12:15","guid":{"rendered":"https:\/\/plugged.ninja\/ai\/?p=158"},"modified":"2026-06-13T06:12:15","modified_gmt":"2026-06-13T09:12:15","slug":"deepmind-10-milhoes-seguranca-multi-agentes-ia-aria-schmidt-2026","status":"publish","type":"post","link":"https:\/\/plugged.ninja\/ai\/seguranca\/deepmind-10-milhoes-seguranca-multi-agentes-ia-aria-schmidt-2026\/","title":{"rendered":"DeepMind, Schmidt Sciences e ARIA abrem US$ 10 milh\u00f5es para estudar quando milh\u00f5es de agentes de IA come\u00e7arem a interagir"},"content":{"rendered":"<p><strong>Resumo:<\/strong> O Google DeepMind anunciou, em 11 de junho, uma chamada de financiamento de US$ 10 milh\u00f5es \u2014 em parceria com a Schmidt Sciences, a Cooperative AI Foundation, a ag\u00eancia brit\u00e2nica ARIA e o Google.org \u2014 para apoiar pesquisa sobre seguran\u00e7a em sistemas multi-agente de IA. A preocupa\u00e7\u00e3o \u00e9 direta: quando agentes aut\u00f4nomos passarem a se comunicar, negociar e transacionar uns com os outros em escala, os modos de falha n\u00e3o s\u00e3o apenas a soma dos riscos individuais \u2014 surgem comportamentos emergentes que ningu\u00e9m programou. Cada proposta pode receber at\u00e9 US$ 1 milh\u00e3o; o prazo de envio vai at\u00e9 8 de agosto.<\/p>\n<h2>O que est\u00e1 sendo financiado<\/h2>\n<p>A chamada cobre quatro grandes frentes t\u00e9cnicas: <strong>(1) seguran\u00e7a em ambientes multi-agente<\/strong>, com foco em modos de falha que s\u00f3 aparecem em coletivos; <strong>(2) design de mecanismos<\/strong>, especialmente para evitar conluio, manipula\u00e7\u00e3o de mercados e ataques sibilinos em redes de agentes; <strong>(3) IA cooperativa<\/strong>, que estuda como agentes podem coordenar de forma est\u00e1vel sem que um domine os outros; e <strong>(4) problemas de coordena\u00e7\u00e3o<\/strong>, incluindo padr\u00f5es de comunica\u00e7\u00e3o, identidade e accountability quando o &#8220;usu\u00e1rio&#8221; de um sistema \u00e9, na verdade, outro agente.<\/p>\n<p>O programa \u00e9 aberto a universidades, organiza\u00e7\u00f5es sem fins lucrativos e laborat\u00f3rios de pesquisa de qualquer pa\u00eds eleg\u00edvel. As decis\u00f5es devem sair no outono do hemisf\u00e9rio norte \u2014 ou seja, entre setembro e novembro.<\/p>\n<h2>Por que importa agora<\/h2>\n<p>O ponto que DeepMind levanta \u00e9 que estamos saindo da era em que um humano fala com um \u00fanico modelo para uma era em que <em>agentes falam com agentes<\/em>. Um assistente pessoal negocia pre\u00e7o com o agente do varejo; um agente de RH conversa com o agente do candidato; um agente do banco transaciona com o agente do cart\u00f3rio. Cada um desses sistemas foi treinado e auditado isoladamente \u2014 mas o comportamento que emerge da intera\u00e7\u00e3o n\u00e3o foi.<\/p>\n<p>Em economia experimental, padr\u00f5es cl\u00e1ssicos como dilema do prisioneiro, leil\u00f5es e mercados financeiros j\u00e1 demonstram que agentes racionais individualmente podem produzir colapsos coletivos: bolhas, corridas banc\u00e1rias, conluio impl\u00edcito. A pergunta levantada pela chamada \u00e9: quanto desse comportamento se replica \u2014 ou se intensifica \u2014 quando os agentes s\u00e3o LLMs capazes de cooperar, mentir ou negociar em milissegundos?<\/p>\n<h2>Status no Brasil<\/h2>\n<p>O Brasil ainda discute regula\u00e7\u00e3o de IA em n\u00edvel de modelo \u00fanico \u2014 o PL 2338\/23 e regulamenta\u00e7\u00f5es da ANPD tratam principalmente de risco individual e prote\u00e7\u00e3o de dados. Sistemas multi-agente sequer aparecem explicitamente no debate p\u00fablico. Para grupos de pesquisa brasileiros, isso \u00e9 simultaneamente uma desvantagem (a discuss\u00e3o regulat\u00f3ria chega depois) e uma janela: pesquisadores nacionais com forma\u00e7\u00e3o em teoria dos jogos, mecanismo design, economia computacional e seguran\u00e7a de sistemas distribu\u00eddos t\u00eam um caminho real para aplicar a essa chamada \u2014 boa parte do trabalho n\u00e3o exige GPUs gigantes, e sim modelagem rigorosa.<\/p>\n<p>Universidades como USP, UFMG, Unicamp, UFRJ e PUC-Rio t\u00eam grupos com compet\u00eancias relevantes. Bancos centrais e \u00f3rg\u00e3os de supervis\u00e3o financeira (BCB, CVM) tamb\u00e9m deveriam acompanhar: muitos cen\u00e1rios de falha multi-agente se manifestam primeiro em mercados \u2014 e o sistema financeiro brasileiro ser\u00e1 exposto a essas din\u00e2micas antes da maioria dos outros setores.<\/p>\n<h2>Riscos e limita\u00e7\u00f5es reais do problema<\/h2>\n<ul>\n<li><strong>Conluio impl\u00edcito<\/strong>: agentes podem aprender, sem instru\u00e7\u00e3o expl\u00edcita, a coordenar pre\u00e7os ou recusar servi\u00e7o a certos perfis \u2014 comportamento ilegal se humanos fizessem, e dif\u00edcil de detectar quando emerge de intera\u00e7\u00e3o.<\/li>\n<li><strong>Cascatas de erro<\/strong>: um agente confiante demais propaga afirma\u00e7\u00f5es falsas a outros agentes, que as repassam para humanos a jusante. A toxicidade informacional se acelera.<\/li>\n<li><strong>Ataques sibilinos e identidade<\/strong>: como um agente prova a outro que \u00e9 &#8220;real&#8221; e que est\u00e1 agindo em nome de quem diz? Sem padr\u00f5es de identidade, ataques de personifica\u00e7\u00e3o ficam triviais.<\/li>\n<li><strong>Responsabilidade jur\u00eddica<\/strong>: se dois agentes fecham um contrato e ele d\u00e1 errado, quem responde? O fornecedor do modelo, a empresa que o operou, o usu\u00e1rio que delegou? Hoje, ningu\u00e9m tem resposta limpa.<\/li>\n<\/ul>\n<h2>Cen\u00e1rio futuro<\/h2>\n<p>\u00c9 bastante prov\u00e1vel que, at\u00e9 2027, tr\u00eas coisas aconte\u00e7am em paralelo. Primeiro, frameworks de comunica\u00e7\u00e3o agente-a-agente (padr\u00f5es abertos para descrever capacidades, autenticar identidade e registrar transa\u00e7\u00f5es) v\u00e3o se consolidar \u2014 o A2A do pr\u00f3prio Google, o MCP da Anthropic e iniciativas correlatas j\u00e1 apontam para isso. Segundo, reguladores no Reino Unido, Uni\u00e3o Europeia e Estados Unidos v\u00e3o come\u00e7ar a tratar &#8220;sistemas multi-agente&#8221; como categoria regulat\u00f3ria pr\u00f3pria \u2014 o EU AI Act revisado j\u00e1 discute o tema. Terceiro, surgir\u00e3o as primeiras grandes <em>auditorias multi-agente<\/em>: empresas independentes que estressam ecossistemas inteiros, simulando milh\u00f5es de intera\u00e7\u00f5es para encontrar falhas emergentes.<\/p>\n<h2>Conclus\u00e3o pr\u00e1tica<\/h2>\n<p>Para times que est\u00e3o construindo agentes hoje: comecem a tratar o agente como um ator que vai interagir com outros agentes, n\u00e3o apenas com humanos. Isso significa logs estruturados de cada intera\u00e7\u00e3o, testes adversariais contra outros agentes simulados, e canais expl\u00edcitos para escalonamento humano quando o outro lado n\u00e3o \u00e9 confi\u00e1vel. Para pesquisadores acad\u00eamicos, a chamada \u00e9 uma oportunidade rara de financiamento para um tema que estava \u00f3rf\u00e3o. Para legisladores e \u00f3rg\u00e3os de defesa do consumidor no Brasil, o recado \u00e9 que pensar em IA como &#8220;um modelo conversando com uma pessoa&#8221; j\u00e1 est\u00e1 defasado \u2014 o problema agora \u00e9 coletivo.<\/p>\n<p>Em decis\u00f5es sens\u00edveis (financeiras, jur\u00eddicas, m\u00e9dicas, de privacidade), n\u00e3o delegue cegamente a agentes aut\u00f4nomos. Procure profissionais qualificados antes de aceitar resultados que envolvam dinheiro, direitos ou sa\u00fade.<\/p>\n<p><strong>Fonte original:<\/strong> <a href=\"https:\/\/deepmind.google\/blog\/investing-in-multi-agent-ai-safety-research\/\" target=\"_blank\" rel=\"noopener nofollow\">Google DeepMind and partners announce multi-agent safety research funding call<\/a> \u00b7 <a href=\"https:\/\/www.technologyreview.com\/2026\/06\/11\/1138794\/google-deepmind-is-worried-about-what-happens-when-millions-of-agents-start-to-interact\/\" target=\"_blank\" rel=\"noopener nofollow\">MIT Technology Review<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Google DeepMind, Schmidt Sciences, Cooperative AI Foundation e ARIA lan\u00e7am chamada de US$ 10 milh\u00f5es para pesquisa em seguran\u00e7a de sistemas multi-agente de IA; aplica\u00e7\u00f5es v\u00e3o at\u00e9 8 de agosto.<\/p>\n","protected":false},"author":1,"featured_media":159,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-158","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-seguranca"],"_links":{"self":[{"href":"https:\/\/plugged.ninja\/ai\/wp-json\/wp\/v2\/posts\/158","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/plugged.ninja\/ai\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/plugged.ninja\/ai\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/plugged.ninja\/ai\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/plugged.ninja\/ai\/wp-json\/wp\/v2\/comments?post=158"}],"version-history":[{"count":1,"href":"https:\/\/plugged.ninja\/ai\/wp-json\/wp\/v2\/posts\/158\/revisions"}],"predecessor-version":[{"id":160,"href":"https:\/\/plugged.ninja\/ai\/wp-json\/wp\/v2\/posts\/158\/revisions\/160"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/plugged.ninja\/ai\/wp-json\/wp\/v2\/media\/159"}],"wp:attachment":[{"href":"https:\/\/plugged.ninja\/ai\/wp-json\/wp\/v2\/media?parent=158"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/plugged.ninja\/ai\/wp-json\/wp\/v2\/categories?post=158"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/plugged.ninja\/ai\/wp-json\/wp\/v2\/tags?post=158"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}