Artificial intelligence and warfare. Let's talk about what this really could look like. Swarms of lethal drones with facial recognition that know your every move. Or unmanned armed robots that are near impossible to defeat. Autonomous fighter jets that can travel at supersonic speeds and can withstand greater gravitational force than a human pilot could survive. Cyberattacks that incapacitate critical port infrastructure or disinformation campaigns and deepfakes that throw presidential elections. Or even foreign adversaries taking out satellites, our eyes and ears in space, rendering us blind to global events. All superintelligent weapons of terror.
Inteligência artificial e guerra. Vamos falar sobre como isto pode realmente ser. Enxames de drones letais com reconhecimento facial que conhecem todos os vossos movimentos. Ou robôs armados automatizados que são quase impossíveis de derrotar. Caças autónomos que podem viajar a velocidades supersónicas e conseguem suportar uma força gravitacional maior a que um piloto humano conseguiria sobreviver. Ciberataques que incapacitam infraestruturas portuárias essenciais ou campanhas de desinformação e <i>deepfakes</i> que derrubam eleições presidenciais. Ou até adversários estrangeiros a eliminarem satélites, os nossos olhos e ouvidos no espaço, tornando-nos cegos para os eventos globais. Todas são armas superinteligentes de terror.
We are at the dawn of a new age of warfare. I grew up in the birthplace of a technology that defined the last era of warfare, the atomic bomb. I was keenly aware of how this technology had fundamentally shaped geopolitics and the nature of war. My parents were both scientists at Los Alamos National Laboratory. My dad’s a physicist, and my mom’s an astrophysicist. Their scientific work in plasma fluid dynamics will have deep implications for how we understand our universe. So naturally, I knew I wanted to work on something just as impactful. I decided to become a programmer and study artificial intelligence.
Estamos no início de uma nova era de guerra. Eu cresci no berço de uma tecnologia que definiu a última era de guerra, a bomba atómica. Estava profundamente ciente de como esta tecnologia tinha fundamentalmente moldado a geopolítica e a natureza da guerra. Os meus pais eram ambos cientistas no Laboratório Nacional de Los Alamos. O meu pai é físico e a minha mãe é astrofísica. O seu trabalho científico em dinâmica de fluidos de plasma terá profundas implicações na forma como compreendemos o universo. Naturalmente, eu sabia que queria trabalhar em algo igualmente impactante. Decidi tornar-me num programador e estudar inteligência artificial.
AI is one of the most critical technologies of our time and with deep implications for national security and democracy globally. As we saw in World War II with the atomic bomb, the country that is able to most rapidly and effectively integrate new technology into warfighting wins. There's no reason to believe this will be any different with AI.
A IA é uma das tecnologias mais críticas do nosso tempo e com implicações profundas para a segurança nacional e para a democracia a nível global. Como vimos na Segunda Guerra Mundial com a bomba atómica, o país capaz de mais rápida e eficazmente integrar nova tecnologia na guerra é o que vence. Não há razões para acreditar que será diferente com a IA.
But in the AI arms race, we're already behind. From a technological perspective, China is already ahead of the United States in computer vision AI. And in large language models, like ChatGPT, they are fast followers. In terms of military implementations, they're outspending us: adjusted for total military budget, China's spending ten times more than the United States.
Mas na corrida de armas de IA, já estamos atrasados. Duma perspetiva tecnológica, a China já está à frente dos Estados Unidos em IA de visão computacional. E em grandes modelos de linguagem, como o ChatGPT, eles são seguidores rápidos. Em termos de implementações militares, gastam mais do que nós: ajustado ao orçamento militar total, a China gasta dez vezes mais do que os Estados Unidos.
Why are we so far behind? The answer is twofold. First, data supremacy. Despite having the largest fleet of military hardware in the world, most of the data from this fleet is thrown away or inaccessible, hidden away on hard drives that never see the light of day. This is our Achilles heel. In an AI war, everything boils down to data.
Porque é que estamos tão atrás? A resposta é dupla. Primeiro, supremacia de dados. Apesar de ter a maior frota de <i>hardware</i> militar do mundo, a maioria dos dados desta frota é desperdiçada ou inacessível, está escondida em discos rígidos que nunca veem a luz do dia. Este é o nosso calcanhar de Aquiles. Numa guerra de IA, tudo se resume aos dados.
For defense AI, data from the internet is not enough. Most of the data needs to come from our military assets, sensors and collaborations with tech companies. Military commanders need to know how to use data as a military asset. I've heard this first-hand many times, from my conversations with military personnel, including most recently from Lieutenant General Richard R. Coffman, deputy commanding general for United States Army Futures Command.
Para IA de defesa, os dados da Internet não bastam. A maioria dos dados tem de vir dos nossos meios, sensores e colaborações militares com empresas tecnológicas. Os comandantes militares têm de saber usar os dados como um meio militar. Já ouvi isto em primeira mão muitas vezes, nas minhas conversas com militares, incluindo mais recentemente do Tenente-General Richard R. Coffman, comandante-geral adjunto dos United States Army Futures Command.
Second, despite being home to the leading technology companies at the forefront of artificial intelligence, the US tech industry has largely shied away from taking on government contracts. Somewhere along the line, tech leaders decided that working with the government was taboo.
Segundo, apesar de ser o lar das empresas líderes em tecnologia na vanguarda da inteligência artificial, a indústria tecnológica dos EUA tem amplamente hesitado em aceitar contratos governamentais. Em algum momento, os líderes tecnológicos decidiram que trabalhar com o governo era tabu.
As a technologist, I'm often asked how I'm bettering this world. This is how I'm improving the future of our world: by helping my country succeed and providing the best tools and technology to ensure that the United States government can defend its citizens, allies and partners.
Como tecnólogo, perguntam-me muito como estou a melhorar este mundo. É assim que estou a melhorar o futuro do nosso mundo: ao ajudar o meu país a ter sucesso e ao fornecer as melhores ferramentas e tecnologia para garantir que o governo dos EUA possa defender os seus cidadãos, aliados e parceiros.
(Applause)
(Aplausos)
The Ukraine war has demonstrated that the nature of war has changed. Through AI overmatch, Ukraine is challenging an adversary with far superior numbers of troops and weapons. Before the Ukraine war, Russia had spent an estimated 65 billion US dollars on its military expenditures, whereas Ukraine only spent about six billion dollars. It's estimated that Russia had over 900,000 military troops and 1,300 aircraft, whereas Ukraine only had 200,000 military troops and 130 aircraft. Technologies such as drones, AI-based targeting and image intelligence and Javelin missiles have enabled a shocking defense of Ukraine. AI is proving invaluable for defending Ukrainian cities and infrastructure against missile and drone bombardment.
A guerra na Ucrânia demonstrou que a natureza da guerra mudou. Através da superação com IA, a Ucrânia está a desafiar um adversário com números muito superiores de tropas e armas. Antes da guerra na Ucrânia, a Rússia tinha gasto uns estimados 65 mil milhões de dólares americanos nas suas despesas militares, enquanto a Ucrânia só gastou cerca de 6 mil milhões de dólares. Estima-se que a Rússia tinha mais de 900 000 tropas militares e 1300 aeronaves, enquanto a Ucrânia só tinha 200 000 tropas militares e 130 aeronaves. Tecnologias como drones, miras com base em IA, inteligência de imagem e mísseis Javelin permitiram uma defesa chocante da Ucrânia. A IA está a provar ser inestimável para defender as cidades e infraestruturas ucranianas contra mísseis e bombardeamentos de drones.
At Scale, we’re using our novel machine learning algorithm for battle damage assessment in key areas affected by the war. We've rapidly analyzed over 2,000 square kilometers and have identified over 370,000 structures, including thousands not previously identified by other open source data sets. We focused on Kyiv, Kharkiv and Dnipro and provided our data directly in a publicly accessible data set to the broader AI community. One of the key problems we're solving is using AI to analyze massive amounts of imagery and detect objects because humans just can't keep up. We've received an overwhelming response from our free AI-ready data set and have provided it directly to the United States and NATO allies. And it's been downloaded over 2,000 times by AI companies, researchers, developers and GIS practitioners. AI can also be used for change detection. Simply put, algorithms can constantly monitor imagery and notify a human to investigate further if there's a change or a movement.
Na Scale, estamos a usar o nosso novo algoritmo de aprendizagem automática para avaliação dos danos de batalha em áreas essenciais afetadas pela guerra. Já analisámos rapidamente mais de 2000 metros quadrados e identificámos mais de 370 000 estruturas, incluindo milhares que não tinham sido identificadas por outros conjuntos de dados de código aberto. Focámo-nos em Kiev, Kharkiv e Dnipro e fornecemos os nossos dados diretamente num conjunto de dados de acesso público à comunidade de IA em geral. Um dos principais problemas que estamos a resolver é usar a IA para analisar enormes quantidades de imagens e detetar objetos porque os humanos não se conseguem manter a par. Recebemos uma resposta impressionante do nosso conjunto gratuito de dados pronto para IA e fornecemo-lo diretamente aos aliados dos EUA e da NATO. E já foi transferido mais de 2000 vezes por empresas, investigadores, programadores de IA e profissionais de SIG. A IA também pode ser usada para deteção de alterações. Basicamente, os algoritmos podem monitorizar imagens constantemente e notificar um humano para investigar mais se houver uma alteração ou movimento.
It's clear that AI is increasingly powering warfare. And based on the rate of progress in the AI field, I predict that in ten years, it will be the dominant force. Disinformation and misinformation are already huge problems. And this technology is only going to make it worse. Tools like ChatGPT have enabled AI to generate imagery, text, audio, video, code and even reason. These tools can generate realistic-looking and realistic-sounding content, which on top of bot-run social media accounts will make it nearly impossible to identify disinformation and misinformation online. Bad actors can use these tools to supercharge misinformation and propagate falsehoods. China already uses disinformation campaigns and social media manipulations heavily in Taiwan, particularly during elections. Or take Russia's propaganda machine, which in the wake of Russia's invasion of Ukraine created a deepfake of Ukrainian President Zelensky calling for Ukrainian troops to surrender. This deepfake was easy to spot, but the next one may not be.
Está claro que a IA está cada vez mais a alimentar a guerra. E com base na taxa de progresso no campo da IA, prevejo que em dez anos, seja a força dominante. A desinformação e a má informação já são problemas enormes. E esta tecnologia só vai tornar tudo pior. Ferramentas como o ChatGPT permitiram à IA gerar imagens, textos, áudios, vídeos, códigos e até raciocínios. Estas ferramentas podem gerar conteúdo que parece e soa realista, que além de contas de redes sociais geridas por <i>bots,</i> tornará quase impossível a identificação de desinformação e de má informação <i>online</i>. Agentes maus podem usar estas ferramentas para superalimentar a má informação e propagar falsidades. A China já usa campanhas de desinformação e manipulações das redes sociais fortemente em Taiwan, particularmente durante as eleições. Ou vejam a máquina de propaganda da Rússia, que na sequência da invasão da Ucrânia pela Rússia criou um <i>deepfake</i> do Presidente ucraniano, Zelensky, apelando às tropas ucranianas para se renderem. Este<i> deepfake</i> foi fácil de detetar, mas o próximo pode não ser.
This also takes place within our borders, from social media algorithm manipulation to advertising microtargeting and geofencing, to deepfakes of politicians and bot-run social media accounts. The United States is not excused from exacerbating disinformation and misinformation. These tools are universally accessible at low or no cost, meaning they can be employed by anyone anywhere to undermine the sanctity of democracy globally. However, all hope is not lost.
Isto também ocorre dentro das nossas fronteiras, desde a manipulação do algoritmo das redes sociais até à microabordagem de publicidade e delimitação geográfica, até <i>deepfakes</i> de políticos e contas das redes sociais geridas por <i>bots</i>. Os Estados Unidos não estão isentos de exacerbar desinformação e má informação. Estas ferramentas estão acessíveis universalmente a poucos ou nenhuns custos, podendo ser aplicadas por qualquer um em qualquer lado para enfraquecer a santidade da democracia globalmente. Contudo, a esperança não está perdida.
If we properly invest into data infrastructure and data preparation, all this can be avoided. Deterrence is nothing new to military thinking. As we saw in World War II with the atomic bomb, it was a primary factor in deterring foreign adversaries from going to nuclear war for more than six decades. Because the stakes of going to war with such a technology were simply too high. We're likely to see a new calculus emerge with AI. It's uncharted territory, nobody knows what it will look like or the toll it will take. How do we know if our AI is better than our adversaries'? We won't. But one thing is clear: AI can only be as powerful as the underlying data that is used to fuel its algorithms. Data will be a new kind of ammunition in the era of AI warfare.
Se investirmos adequadamente em infraestruturas de dados e preparação de dados, tudo isto pode ser evitado. A dissuasão não é nada de novo no pensamento militar. Como vimos na Segunda Guerra Mundial com a bomba atómica, foi um fator determinante na dissuasão de adversários estrangeiros de entrarem numa guerra nuclear durante mais de seis décadas. Porque os riscos de entrar em guerra com esta tecnologia eram demasiado altos. É provável que vejamos um novo cálculo a surgir com a IA. É território desconhecido, ninguém sabe como será ou o custo que terá. Como sabemos se a nossa IA é melhor que os nossos adversários? Não sabemos. Mas uma coisa é clara: a IA só é tão poderosa como os dados estruturais utilizados para alimentar os seus algoritmos. Os dados serão um novo tipo de munição na era da guerra de IA.
In the tech industry, we often talk about missions. They're often frivolous. Do they really change the world or save lives? This mission, on the other hand, really matters. The AI war will define the future of our world and has the potential to shift the balance of diplomatic power.
Na indústria tecnológica, falamos muitos sobre missões. Muitas vezes são frívolas. Mudam realmente o mundo ou salvam vidas? Esta missão, por outro lado, importa verdadeiramente. A guerra de IA vai definir o futuro do nosso mundo e tem o potencial de mudar o equilíbrio do poder diplomático.
It's clear that digital warfare is not some dystopian reality, tucked away in a faraway future. It is taking place in the here and now. We cannot sit by the sidelines and watch the rise of an authoritarian regime. It is in moments like this that technologists can either rise to the challenge or stand idle. I encourage my fellow technologists to understand the austerity and severity of our times and commit themselves to supporting national security. While I find it shocking that most American AI companies have chosen not to support national security, I do hope others join us.
Está claro que a guerra digital não é uma realidade distópica, oculta num futuro longínquo. Está a ocorrer aqui e agora. Não podemos ficar à margem e ver a ascensão de um regime autoritário. É em momentos como este que os tecnólogos podem enfrentar o desafio ou permanecer passivos. Encorajo os meus colegas tecnólogos a compreender a austeridade e a gravidade dos nossos tempos e a empenharem-se em apoiar a segurança nacional. Apesar de achar chocante que a maioria das empresas americanas de IA tenha optado por não apoiar a segurança nacional, espero mesmo que outros se juntem a nós.
We must fight for the world we want to live in. It's never mattered more.
Temos de lutar pelo mundo em que queremos viver. Nunca foi tão importante.
Thank you.
Obrigado.
(Applause)
(Aplausos)