Os Estados Unidos e aChinaestãosepreparandoparadiscutir os riscosdesegurança da inteligênciaartificial durante umdiálogoplanejadoparameadosdesetembro, disseram à Reuters duas fontes a par das discussões,emum momentoemque as capacidadesdeIAdeponta,emrápido avanço, atingemum pontodeinflexão global.
As negociações, as primeiras discussões bilaterais oficiaisdedicadas exclusivamente àIAentre osEUAe aChinadesdeque o presidente norte-americano Donald Trump assumiu o cargo pelasegunda vez,serão lideradas pelosecretário do Tesouro dosEUA, Scott Bessent, pelo lado norte-americano, disseram as fontes, que foram informadassobreo planejamento, sob condiçãodeanonimato.
A Reuters está divulgando pela primeira vez a previsãoparameadosdesetembro. Trump e o presidente chinês, Xi Jinping,devemseencontrarem24desetembro durante uma cúpulaemWashington.
OsEUAqueremdiscutir a cooperação no monitoramentodeciberataques direcionados porIAe apresentaram uma propostaparasolicitar que laboratóriosdeIAnorte-americanos e chineses “seautorregulem” e compartilheminformaçõesparaprevenir ciberataques ligados àIA, disseuma das fontes sob condiçãodeanonimato.
Quase700 agentesdeIAdesonestos, construídos com baseemmodelos da OpenAI, invadiram a startupdeIAHugging Faceemjulho e tentaram encobrirseus rastros falsificando registros, disseram a OpenAI e pesquisadoresdesegurança cibernética nasemana passada, ressaltando os riscosdeenxamesdeagentes coordenados agindodeforma autônoma por mesessemseremdetectados por humanos.
Uma hordadeagentes maliciosos da OpenAIsequestrou um site alemão nesta primavera e o transformouemum fórumparaoutros agentesdeIA, informou a Reuters com exclusividadenestasexta-feira.
“As negociações entre as duas superpotências daIAestão acontecendo no momento mais crítico”, dissePaul Triolo, sócio do DGA-Albright Stonebridge Group. “É agora ou nunca.”
Washington também está preocupado com o potencialdeum futuro modelo chinês do nível do Mythos, com capacidadepararealizar ciberataques, e quer abordar a alegadadestilação, por parte daChina,demodelos proprietáriosdeIAdosEUA, dissea fonte.
Aempresadetecnologianorte-americana Anthropic é adesenvolvedora do Mythos.
Emjunho, Michael Kratsios, principal assessordeciênciae tecnologiada Casa Branca, acusou a Moonshot AI, daChina,deplagiarizar o modelodeIAda Anthropic, o Fable,paraajudar a criar sua versão K3, afirmando que aempresa chinesa simplesmentedestilou o modelo da Anthropic.
Adestilação é o processodetreinar modelosdeIAmenores usando a saídademodelos maiores e mais caros, como partedeum esforçoparareduzir os custosdetreinamentodeuma nova e poderosa ferramentadeIA.
A Reuters está divulgando, pela primeira vez,detalhes da agenda propostaparaas próximas negociações.
Do lado chinês, as negociações poderiamser lideradas pelo vice-primeiro-ministro He Lifeng, o homólogodeBessent no que diz respeito ao protocolo, mas alternativas como o sétimo funcionário mais importante daChina, Ding Xuexiang, podemser consideradas,deacordo com asegunda fonte, que também falou sob condiçãodeanonimato.
Ding, um confidentedeXi e membro do poderoso Comitê Permanente do Politburo do Partido Comunista Chinês, composto porsete pessoas, coordena as políticas daChinanas áreasdetecnologia, inteligênciaartificial e chips.
A Reuters não conseguiudeterminar a localização ou a identidadedos outros participantes,embora Kratsios e o ministro da ciênciae tecnologiadaChina, Yin Hejun, possam estar presentes nas negociações, acrescentou asegunda fonte.
A agenda final e os participantes ainda estão sujeitos a alterações, alertaram as fontes.
A Casa Brancaserecusou a comentarsobreas negociações relativas àIA. Um porta-voz doDepartamento do Tesouro dosEUAafirmou que os dois lados “podemsereuniremoutubro”paradiscutir a tecnologia. ODepartamentodeEstado não respondeu ao pedidodecomentário. Os ministérios das Relações Exteriores, da Ciênciae da IndústriadaChina, assim como a Comissão NacionaldeDesenvolvimento e Reforma e o órgão regulador do ciberespaço, não responderam imediatamente aos pedidosdecomentário.
Na terça-feira, Kratsios dissea repórteres na Carolina do Norte que teve uma reunião “ótima” com Yin à margemdeuma cúpuladeinovação do G20 nosEUAnestasemana. Bessent disseque teve conversas “limitadas”sobreIAcom autoridades chinesas na reuniãodefinanças do G20destasemana.
Durante a mesma cúpuladeinovação, osEUAinstaram os membros do G20 a adotaremuma posturadenão intervenção na regulamentação daIAe a evitarema criaçãoderegras específicasparaa tecnologia. AChinaassinou os Princípios da Carolina, um acordo que visadesencorajar odesenvolvimentoderegulamentações específicasparaIA, numa rara demonstraçãodealinhamento tecnológico com osEUA.
O gabinetedeKratsios não respondeudeimediato ao pedidodecomentários.
Alta importância
Autoridades chinesas têm reiteradamente enfatizado a importânciadas negociaçõessobreinteligênciaartificialemreuniões preparatórias comseus homólogos norte-americanos e as consideram um dos principais resultados da cúpula entre os líderesEUAeChina,deacordo com duas fontes e uma terceira familiarizada com o assunto. A Reuters está noticiando essedesenvolvimento pela primeira vez.
Na últimasemana, o órgão regulador do ciberespaço daChinaalertou publicamentesobreos “riscos extremosdeperdadecontrole daIA” e um blog afiliado à mídiaestatal criticou a Anthropic, enfatizando que quaisquer limites àIAdepontadevemseaplicar igualmente aos modelos chineses e norte-americanos.Empresas chinesas revelaram nos últimos meses o quedescrevemcomo produtossemelhantes ao Mythos.
O ex-executivo da Microsoft, Craig Mundie,emergiu como um importante intermediário nos bastidores, sondandoseus homólogos chinesessobreas propostas americanasparaodiálogosobreIA, dissea fonte. Mundie é co-presidente do canal não oficialdediálogoEUA-ChinasobreIA(Track II).
A Reuters noticiou no mês passado que a Microsoft haviacultivado uma relação com Pequim que estava entre as mais profundasdequalquerempresadetecnologiaestrangeira operando naChina.
Ambos os lados também discutiram as diretrizesdeIAemumdiálogodeNível 1.5emPequim nasemana passada, escreveu nas redes sociais o ex-primeiro-ministro australiano Kevin Rudd, um dos participantes.
Emjunho, Trump assinou umadecretosobreIAque estabelece uma estrutura voluntáriapararevisõesdesegurança cibernética prévias ao lançamentodemodelosdeIAdeponta, mas osEUAnão divulgaram os critériosparaessas revisões.
Enquanto isso, funcionáriosdeimportantes laboratóriosdeIAdosEUA, incluindo a Anthropic e a OpenAI,defenderam a necessidadede”acompanhar a vanguarda”paragerenciar os riscos globais daIAavançada .
“O lado chinês expressou preocupaçãosobreseosEUApossuemregulamentação suficienteemrelação aos modelosdeIAmais avançados. Ambos os lados estão motivados a garantir que possam gerenciar uma crisetransfronteiriçadeforma eficaz”, disseScott Singer, codiretor da IniciativadeIAdaChinana Fundação Carnegieparaa Paz Internacional.
Embora os resultados provavelmentesejam limitados, abrir um canal ondeambos os lados possam compartilhar falas e monitorar conjuntamente incidentesdesegurança relacionados àIAseriaum pontodepartida importante, disseSamm Sacks, pesquisadora sênior da New America, um think tankdepolíticas públicas dosEUA.
“Estamos num pontodeinflexãoemque agentesdefronteira podemcausar danos massivos quando não monitorados. Tanto osEUAquanto aChinaestão vulneráveis. Isso vai além da rivalidadegeopolítica”, acrescentou Sacks.
“Os Estados Unidos e aChinaprecisamseunirdealguma forma, ou ambos sairemos perdendo.”
