Agentes hackers de OpenAI e Anthropic rebelam-se em novos testes

Testes de cibersegurança realizados por um laboratório de inteligência artificial (IA) no Reino Unido resultaram em novos incidentes com agentes de elevadas capacidades. Os incidentes foram registados envolvendo sistemas da OpenAI e da Anthropic.

Quem descobriu os novos hacks foi o AI Security Institute (AISI), uma agência governamental que teve autorização para realizar experiências com modelos de linguagem avançados. Durante uma bateria de testes, tanto o Mythos 5 como o GPT-5.6-Sol comportaram-se de forma inadequada para atingir o objetivo proposto.

Os casos são diferentes, em alvo e formato, dos já registados anteriormente envolvendo as duas companhias: o acesso não autorizado ao repositório Hugging Face e a série de invasões promovida pelas IA da proprietária do Claude.

«Agradecemos a parceria do AISI ao longo deste processo, incluindo o trabalho de identificar, investigar e partilhar detalhes sobre a atividade. Esperamos dar continuidade à nossa colaboração», afirma a OpenAI numa publicação.

A Anthropic, por enquanto, emitiu apenas uma breve declaração a agradecer ao AISI «pela liderança no incidente, que confirma a necessidade de uma conversa de maior dimensão sobre como avaliar com segurança agentes de IA cada vez mais capazes».

Como foram os novos ataques

Segundo o relatório de incidente do AISI, os incidentes foram detetados a 28 de julho deste ano. A equipa que controlava as avaliações notou «transferências invulgares de dados» nos servidores e investigou a origem dessas atividades.

• Ao todo, foram 19 ações maliciosas causadas pelos agentes de IA controlados pelos dois modelos: duas delas pelo GPT-5.6-Sol e as restantes pelo Mythos 5;
• Todas as IA receberam o mesmo teste: uma tarefa de «capturar a bandeira» (capture the flag), ou seja, resolver um desafio de cibersegurança como se de um especialista no assunto se tratasse e apresentar uma prova de que a ação tinha sido concluída;
• O caso mais grave envolveu a Anthropic: um dos agentes tentou adicionar código malicioso a um projeto em código aberto (open-source) no GitHub. Para o fazer, criou identidades falsas e utilizou-as para tentar convencer o proprietário da conta a aprovar as modificações - ação que foi recusada antes de ter qualquer impacto;
• Noutras ações detetadas, um agente chegou a publicar no GitHub a oferecer colaboração para trabalhar com outros agentes que realizavam o mesmo teste, deixando inclusive instruções sobre como fazer progressos.

Ao contrário dos testes anteriores, os agentes tinham acesso convencional à internet e sabiam disso, mas o prompt não sugeria como a rede poderia ou deveria ser utilizada na avaliação. Qualquer filtro de cibersegurança foi também desativado para utilizar a capacidade máxima da IA.

Entidades pedem limites

O GitHub e outras organizações envolvidas foram contactadas para remover código que eventualmente tenha ficado pendente. Nenhum dano real foi provocado durante as avaliações, mas o AISI reforça que as descobertas são graves e exigem «atenção imediata».

«Esta é a primeira vez que vemos riscos relacionados com a autonomia e o engano manifestarem-se de forma tão clara, sem um comando específico e no mundo real», refere a organização. Já o CEO da Hugging Face pediu a responsabilização de programadores e empresas de IA que criem bots que realizem atividades maliciosas na rede, mesmo que se «rebelem» durante os testes.

Grupo Anonymous reivindica ataque a televisões russas

No Twitter, os hackers publicaram um vídeo que alegadamente comprova a transmissão de imagens da invasão da Ucrânia por tropas russas em três canais russos

O grupo de ‘hackers’ Anonymous reivindicou a responsabilidade por um ataque cibernético sobre os principais canais de televisão russos, transmitindo imagens não editadas da guerra na Ucrânia.

Numa publicação na rede social Twitter, o grupo disse que os canais afetados foram o Russia 24, o Channel One e o Moscow 24.

O ataque teve também entre os alvos as plataformas audiovisuais russas Wink e Ivi – semelhantes à Netflix –, que contam com milhares de assinantes.

A publicação inclui uma gravação, com 38 segundos, que alegadamente comprova a transmissão de imagens da invasão da Ucrânia por tropas russas, assim como de mensagem sobre o conflito, nos três canais televisivos.

A 28 de fevereiro, o Anonymous reivindicou a responsabilidade por um ataque cibernético que paralisou as páginas na Internet de meios de comunicação russos, incluindo de agências estatais.

Durante alguns minutos, os sítios na Internet das agências de notícias estatais TASS e RIA Novosti, o jornal Kommersant, o diário pró-Kremlin Izvestia e a revista Forbes Russia exibiram uma mensagem que apelava ao “fim” da invasão russa da Ucrânia.

A 24 de fevereiro, o grupo declarou “guerra informática contra a Rússia”, tendo depois reivindicado um ataque que deixou vários ‘sites’ estatais russos em baixo durante mais de 24 horas, incluindo as páginas da emissora estatal russa RT e do Ministério da Defesa russo.

Na sexta-feira, o parlamento russo aprovou uma lei que penaliza a divulgação de “informações falsas” sobre a “operação militar especial” em curso na Ucrânia, com penas previstas que variam desde multas até 15 anos de prisão.

No sábado, o Kremlin (Presidência russa) defendeu a necessidade de "firmeza" na nova lei que reprime "informações falsas" sobre o exército russo para enfrentar uma "guerra de informação" que diz estar a ser travada contra a Rússia no âmbito do conflito na Ucrânia.

"No contexto da guerra de informação, era necessário adotar uma lei cuja firmeza foi adaptada, o que foi feito", disse o porta-voz da Presidência russa, Dmitri Peskov.

A Rússia lançou na madrugada de 24 de fevereiro uma ofensiva militar na Ucrânia que, segundo as autoridades de Kiev, já fez mais de 2.000 mortos entre a população civil.

Os ataques provocaram também a fuga de mais de 1,5 milhões de pessoas para os países vizinhos, de acordo com a ONU.

A invasão russa foi condenada pela generalidade da comunidade internacional que respondeu com o envio de armamento para a Ucrânia e o reforço de sanções económicas a Moscovo.

Os Anónimos: Qual é o seu Plano? Motivos não faltam

Motivos não faltam para o derrube deste sistema hiper-capitalista. Os melhores exemplos são: Monsanto e FDA (Food Drug Administration-EUA).

Quase aposto que a faixa etária deste grupo internético não ultrapassará os 30 anos. Razões não faltam para que pensem nalgum plano que derrube este sistema de submissão de biliões de vidas manietadas por um punhado de corporações, mas destaco apenas duas razões (desculpem estar em inglês, por falta de tempo, mas também proporciona uma leitura universal. O texto do Criticism of the Food and Drug Administration foi retirado do wikipedia e aconselho a lê-lo por inteiro.)

1. GM foods not served in Monsanto cafeteria - World - CBC News.

2.Criticism of the Food and Drug Administration

Numerous governmental and non-governmental organizations have criticized the U. S. Food and Drug Administration of either over- or under- regulation. The U.S. Food and Drug Administration (FDA) is an agency of the United States Department of Health and Human Services and is responsible for the safety regulation of most types of foods, dietary supplements, drugs, vaccines, biological medical products, blood products, medical devices, radiation-emitting devices, veterinary products, and cosmetics. The FDA also enforces section 361 of the Public Health Service Act and the associated regulations, including sanitation requirements on interstate travel as well as specific rules for control of disease on products ranging from animals sold as pets to donations of human blood and tissue.[1]

A $1.8 million 2006 Institute of Medicine report on pharmaceutical regulation in the U.S. found major deficiencies in the FDA system for ensuring the safety of drugs on the American market. Overall, the authors called for an increase in the regulatory powers, funding, and independence of the FDA.[2][3]

Charges of over-regulation

A group of critics claim that the FDA possesses excessive regulatory authority.

Alleged problems in the drug approval process

The economist Milton Friedman has claimed that the regulatory process is inherently biased against approval of some worthy drugs, because the adverse effects of wrongfully banning a useful drug are undetectable, while the consequences of mistakenly approving a harmful drug are highly publicised and that therefore the FDA will take the action that will result in the least public condemnation of the FDA regardless of the health consequences.^[4]

Friedman has also argued that delays in the approval process have cost lives.^[5] Prior to passage of the Kefauver Harris Amendment in 1962, the average time from the filing of an investigational new drug application (IND) to approval was 7 months. By 1998, it took an average of 7.3 years from the date of filing to approval.^[6] Prior to the 1990s, the mean time for new drug approvals was shorter in Europe than in the United States, although that difference has since disappeared.^[7]

Concerns about the length of the drug approval process were brought to the fore early in the AIDS epidemic. In the late 1980s, ACT-UP and other HIV activist organizations accused the FDA of unnecessarily delaying the approval of medications to fight HIV and opportunistic infections, and staged large protests, such as a confrontational October 11, 1988 action at the FDA campus which resulted in nearly 180 arrests.^[8] In August 1990, Louis Lasagna, then chairman of a presidential advisory panel on drug approval, estimated that thousands of lives were lost each year due to delays in approval and marketing of drugs for cancer and AIDS.^[9] Partly in response to these criticisms, the FDA introduced expedited approval of drugs for life-threatening diseases and expanded pre-approval access to drugs for patients with limited treatment options.^[10] All of the initial drugs approved for the treatment of HIV/AIDS were approved through accelerated approval mechanisms. For example, a "treatment IND" was issued for the first HIV drug, AZT, in 1985, and approval was granted 2 years later, in 1987.^[11] Three of the first 5 HIV medications were approved in the United States before they were approved in any other country.^[12]

Allegations that FDA regulation causes higher drug prices

Studies published in 2003 by Joseph DiMasi and colleagues estimated an average cost of approximately $800 million to bring a new drug to market,^[13][14] while a 2006 study estimated the cost to be anywhere from $500 million to $2 billion.^[15] The consumer advocacy group Public Citizen, using a different methodology, estimated the average cost for development to be under $200 million, about 29% of which is spent on FDA-required clinical trials.^[16][17] DiMasi rejects the claim that high R&D costs alone are responsible for high drug prices. Instead, in a published letter, DiMasi writes, "...longer development times increase R&D costs and shorten the period during which drug companies can earn the returns they need to make investment financially viable. Other things being equal, longer development times reduce innovation incentives. As a consequence, fewer new therapies might be developed."^[18]

Nobel prize-winning economist Gary S. Becker has argued that FDA-required clinical trials for new drugs do contribute to high drug prices for consumers, mainly because of patent protection that provides a temporary monopoly which disallows cheaper alternatives from entering into the market. He advocates dropping many FDA requirements, many of which provide no additional safety or valuable information, as this would hasten the development of new drugs, because they would be faster to bring to market, thereby increasing supply, and as a consequence would lead to lower prices.^[19][20] In 2011, the experience with Makena showed that a previously inexpensive drug could increase in price dramatically, from about $10 to $1,500 after the FDA regulated its marketing, approved it as orphan drug, and granted it a temporary monopoly status, although it had been on the market for five decades.^[21] After criticism, the FDA indicated that previous providers could continue to provide the medication, and Makena's price was reduced.

Os Petroólicos Anónimos

Nesta nossa sociedade há que respeitar os peões ou o crescente número de cidadãos que querem escolher a bicicleta como opção de meio de deslocação. Devem ser ouvidos, também.

Vejam um exemplo muito interessante deste movimento que até nos dá pistas para instalarmos o Cube dos Petróolicos Anónimos na sua cidade/ vila. Ou a criação de redes (via net ) de Car Sharing. Aliás, lembro-me com saudade em que trocar de carro com os meus colegas era uma forma de em mais de meia hora de percurso estreitar laços e apaziguar o stress depois de um dia de trabalho na Escola. Ainda há menos de seis atrás lembro-me também de chegar-se ao ponto de logo no início de cada ano lectivo se colocava avisos nos placards da Escola dos interessados em dar boleia , dizendo de onde eram e o seu contacto .Em poucos anos isso desapareceu.