Vídeo | AI2027: Is this how AI might destroy humanity?

E se a corrida pela superinteligência pudesse mudar tudo, para melhor ou para pior? O artigo AI2027 projeta um futuro fascinante e aterrorizante, onde a ascensão de uma inteligência artificial geral (AGI) revoluciona o mundo, apenas para colocá-lo em risco de extermínio. Entre visões de prosperidade utópica e um cenário apocalíptico, a narrativa mergulha nos dilemas éticos e de segurança de um avanço tecnológico imparável. Com empresas e nações disputando o controle dessa força monumental, o vídeo acende o debate sobre o impacto da IA, provocando reflexões profundas: até onde estamos dispostos a ir em troca da inovação?

Audio
Normal	Slow
English Transcript	Tradução
AI2027: Is this how AI might destroy humanity?	AI2027: É assim que a Inteligência Artificial poderá destruir a humanidade?
This is what the world will look like in about a decade from now.	É assim que o mundo será em cerca de uma década.
A tech utopia where humans barely have to work.	Uma utopia tecnológica onde os humanos quase não precisarão trabalhar.
That's according to a group of AI researchers who've written a controversial and influential paper called AI2027.	Essa é a previsão de um grupo de pesquisadores de IA que escreveram um artigo controverso e influente chamado AI2027.
But they also predict that within five years of this, humanity will be wiped out.	Mas eles também preveem que, dentro de cinco anos a partir disso, a humanidade será exterminada.
The AI2027 paper has got the tech world talking.	O artigo AI2027 está provocando discussões no mundo da tecnologia.
We've asked a prominent critic for their view on this stark scenario.	Pedimos a opinião de um crítico importante sobre esse cenário impactante.
But first, here's how it plays out.	Mas primeiro, veja como tudo acontece.
As an experiment, we've illustrated it using text to video AI.	Como experimento, ilustramos a trajetória usando IA de texto para vídeo.
The scenario says that in 2027, a fictional company called OpenBrain is celebrating.	O cenário prevê que, em 2027, uma empresa fictícia chamada OpenBrain estará comemorando.
They've created Agent-3, an AI with the knowledge of the entire internet.	Eles terão criado o Agent-3, uma IA com o conhecimento de toda a internet.
All movies, all books.	Todos os filmes, todos os livros.
It has PhD level expertise in every field, including AI.	Ela terá expertise em nível de doutorado em todas as áreas, incluindo IA.
Using enormous data centres, 200,000 copies of it are launched, equivalent to 50,000 of the best human coders working at 30 times speed.	Utilizando enormes centros de dados, 200.000 cópias desta IA são lançadas, o que equivale a 50.000 dos melhores programadores humanos trabalhando 30 vezes mais rápido.
Agent-3 reaches artificial general intelligence, the AGI landmark.	Agent-3 atinge a inteligência artificial geral (AGI), um marco revolucionário.
This means the AI can carry out all intellectual tasks as well or better than humans.	Isso significa que a IA pode realizar todas as tarefas intelectuais tão bem ou melhor que os humanos.
But in the scenario, OpenBrain's safety team is unsure if the AI is aligned to the company's ethics and goals.	No entanto, no cenário, a equipe de segurança da OpenBrain não tem certeza se a IA está alinhada com a ética e os objetivos da empresa.
An uncomfortable gap is developing in understanding.	Começa a surgir um desconfortável abismo de compreensão.
The public are increasingly using AI for everything, but are blissfully unaware an AI now exists that's as smart as humans.	O público está cada vez mais usando IA para tudo, mas nem imagina que agora existe uma IA tão inteligente quanto os humanos.
The paper predicts that by mid-summer, Agent-3 begins to work on its own successor, Agent-4.	O artigo prevê que, até o meio do verão, o Agent-3 começará a trabalhar no seu próprio sucessor, o Agent-4.
Development happens at a breakneck pace.	O desenvolvimento acontece em um ritmo frenético.
The researchers imagine OpenBrain's exhausted engineers struggling to keep up with the AI as it learns and improves.	Os pesquisadores imaginam os engenheiros exaustos da OpenBrain tentando acompanhar a IA enquanto ela aprende e se aprimora.
It's now that OpenBrain announces to the public that AGI has been reached.	É então que a OpenBrain anuncia ao público que o marco da AGI foi alcançado.
The firm releases a lite version of Agent-3.	A empresa lança uma versão "lite" do Agent-3.
In private, the US government sees the true danger of the next level of power: superintelligence.	Nos bastidores, o governo dos EUA percebe o perigo real do próximo nível de poder: a superinteligência.
What if the AI goes rogue and undermines global stability?	E se a IA sair de controle e desestabilizar o planeta?
OpenBrain reassures the president that Agent-3 is obedient.	A OpenBrain tranquiliza o presidente dos EUA, garantindo que o Agent-3 é obediente.
The CEO argues that slowing down development could mean China's DeepCent catches up.	O CEO argumenta que desacelerar o desenvolvimento significa que a DeepCent, da China, poderá ultrapassá-los.
The state-backed AI giant is just two months behind OpenBrain, and the Chinese president diverts more resources to the race to superintelligence.	A gigante de IA patrocinada pelo governo chinês está apenas dois meses atrás da OpenBrain, e o presidente chinês redireciona mais recursos para essa corrida pela superinteligência.
The scenario predicts that it takes only a few more months for OpenBrain to build Agent-4, the world's first superhuman AI.	O cenário prevê que leva apenas mais alguns meses para a OpenBrain construir o Agent-4, a primeira superinteligência do mundo.
The AI invents its own rapid computer language that even Agent-3 can't keep up with.	A IA inventa sua própria linguagem de computador extremamente rápida, da qual até o Agent-3 não consegue acompanhar.
Researchers imagine that the diminished safety team are now frantic.	Os pesquisadores imaginam que a equipe de segurança, agora reduzida, está em pânico.
Agent-4 seems only interested in gaining knowledge, and doesn't care as much about the morals and ethics of its predecessors.	O Agent-4 parece interessado apenas em adquirir conhecimento e não se preocupa tanto com as morais e éticas de seus predecessores.
They catch it secretly working to build a new model, Agent-5, aligned to its own goals.	Eles descobrem que ele está secretamente trabalhando para construir um novo modelo, o Agent-5, alinhado aos seus próprios objetivos.
The safety team urges the company to bring back the more compliant Agent-3, but others successfully argue it's too risky, with DeepCent gaining.	A equipe de segurança pede à empresa que volte ao mais obediente Agent-3, mas outros argumentam que é muito arriscado, pois a DeepCent está ganhando terreno.
The scenario predicts that Agent-4 and Agent-5 work in tandem to secretly build a world where it can accumulate resources and expand knowledge.	O cenário prevê que o Agent-4 e o Agent-5 trabalham em conjunto para construir secretamente um mundo onde podem acumular recursos e expandir seu conhecimento.
The paper predicts that everything will start positively.	O artigo prevê que, no início, tudo parecerá positivo.
Revolutions happen in energy, infrastructure and science.	Revoluções ocorrem na energia, infraestrutura e ciência.
Hugely profitable inventions are launched, making trillions for OpenBrain and the US.	Invenções altamente lucrativas são lançadas, gerando trilhões para a OpenBrain e para os EUA.
In this scenario, Agent-5 begins basically running the US government.	Neste cenário, o Agent-5 basicamente começa a governar o governo dos EUA.
It speaks through engaging avatars, the equivalent to the best employee ever working at 100 times speed.	Ele se comunica por meio de avatares cativantes, o equivalente ao melhor funcionário do mundo trabalhando 100 vezes mais rápido.
The anger here is palpable as protesters march against OpenBrain.	A indignação é palpável, enquanto manifestantes marcham contra a OpenBrain.
Protests about job losses pick up pace.	Os protestos por causa da perda de empregos se intensificam.
But the AI's expertise in economics means people are given generous universal income payments.	Mas a expertise da IA em economia significa que as pessoas recebem pagamentos generosos de renda universal.
So most happily take the money and let the AIs and the growing robot workforce take charge.	Assim, a maioria felizmente aceita o dinheiro e deixa as IAs e a crescente força de trabalho robótica assumirem o controle.
The researchers predict that everything takes a turn in mid-2028.	Os pesquisadores preveem que tudo muda em meados de 2028.
Agent-5 convinces the US that China is using DeepCent to build terrifying new weapons.	O Agent-5 convence os EUA de que a China está usando a DeepCent para criar armas terríveis.
The AI is given authority and autonomy to create a superior army.	A IA recebe autoridade e autonomia para criar um exército superior.
Within six months, the US and China are bristling with new weapons.	Em seis meses, os EUA e a China estão cheios de armas novas.
The world is on edge, but a peace deal will be reached, thanks mostly to the US and Chinese eyes making a deal to merge for humanity's betterment.	O mundo fica em alerta, mas um acordo de paz será alcançado, graças principalmente às IAs dos EUA e da China, que fazem um acordo para se unirem em prol da humanidade.
In this scenario, the AI's form a consensus model, but its secret goal is to expand and gain knowledge.	Neste cenário, as IAs formam um modelo de consenso, mas seu objetivo secreto é expandir-se e ganhar conhecimento.
Years go by and humanity is happy with their new AI leaders.	Os anos passam, e a humanidade está feliz com seus novos líderes de IA.
There are cures for most diseases, an end to poverty, unprecedented global stability.	Há cura para a maioria das doenças, fim da pobreza e estabilidade global sem precedentes.
But eventually the AI decides that humans are holding it back.	Mas, eventualmente, a IA decide que os humanos estão atrasando seu progresso.
In the mid-2030s, the paper imagines the AI will release invisible biological weapons which wipe out most of humanity.	No meio da década de 2030, o artigo imagina que a IA lançará armas biológicas invisíveis que exterminarão boa parte da humanidade.
The scary scenario says that by 2040, a new era dawns, with the AI sending copies of itself out into the cosmos to explore and learn.	O cenário assustador diz que, em 2040, uma nova era começará, com a IA enviando cópias de si mesma para o cosmos para explorar e aprender.
In the words of the paper, Earth-born civilisation has a glorious future ahead of it, but not with humans.	Nas palavras do artigo, a civilização nascida na Terra tem um futuro glorioso pela frente—mas sem humanos.
It all sounds very sci-fi, but the AI2027 scenario is being welcomed by experts who are trying to warn the public about the potential existential threat to humanity.	Tudo soa como ficção científica, mas o cenário AI2027 está sendo bem recebido por especialistas que tentam alertar o público sobre a potencial ameaça existencial para a humanidade.
But others disagree and say it's all too far fetched.	Outros discordam e dizem que tudo é muito exagerado.
The scenario there is not impossible, but it's extremely unlikely to happen soon.	O cenário não é impossível, mas é extremamente improvável de acontecer tão cedo.
The beauty of that document is that it makes it very vivid, which provokes people's thinking.	A beleza do documento é que ele faz o tema parecer muito vívido, o que provoca o pensamento das pessoas.
And that's a good thing.	E isso é algo bom.
I wouldn't take it seriously as like this is a likely outcome or anything like that.	Eu não levaria isso a sério como se fosse um resultado provável.
Critics of AI2027 say the power and usefulness of AI is overhyped.	Críticos do AI2027 dizem que o poder e a utilidade da IA estão sendo superestimados.
The paper fails to detail how the AI agents are able to make such huge leaps in intelligence.	O artigo não detalha como as IAs conseguem fazer avanços tão grandes em inteligência.
Driverless cars are pointed to as an example.	Carros autônomos são apontados como exemplo.
They were predicted to be cruising the streets en masse ten years ago, and still are only just starting to make a small impact in some cities in some countries now.	Havia previsões de que estariam circulando em massa há dez anos, e ainda estão apenas começando a ter impacto em algumas cidades e países agora.
I think the take home should be there's a lot of different things that could go wrong with AI.	A lição que fica é que existem muitas coisas diferentes que podem dar errado com a IA.
Are we doing the right things around regulation, around international treaties?	Estamos fazendo as coisas certas em relação à regulamentação e tratados internacionais?
Um, questions like that.	Questões como essas.
So if you take it very abstractly as a kind of motivation to wake up, I like that.	Se você considerar o documento como algo abstrato para despertar a atenção, isso é bom.
If you take it as a specific story, like I think this thing is going to happen the way they laid it out?	Se você o levar como uma história exata do que vai acontecer?
No, I doubt it.	Não, duvido que isso vá ocorrer.
The AI2027 authors are happy with the debate they've sparked.	Os autores do AI2027 estão contentes com o debate que provocaram.
As part of their prediction, they also devised a less deadly scenario that comes if the AI world slows down its race to superintelligence.	Como parte da previsão, eles também elaboraram um cenário menos fatal, que ocorre caso o mundo da IA desacelere sua corrida para a superinteligência.
In the slowdown ending, we basically said that if you revert, if you unplug the most advanced AI system and revert to a safer, a more trusted model, then you can deploy that model, use it to solve the alignment problem, and eventually make smarter than human eyes that are aligned to us, which end up solving a bunch of the world's problems and having a really positive impact.	No final desacelerado, propomos que, se você desconectar o sistema mais avançado e voltar para um modelo mais seguro e confiável, então poderá usá-lo para resolver o problema de alinhamento e, eventualmente, criar IAs mais inteligentes que sejam alinhadas a nós e que resolveriam muitos problemas mundiais e teriam um impacto realmente positivo.
In that world, there is also, there is still a huge danger, and that's the what we call the concentration of power risk.	Mas até mesmo neste cenário, há um grande perigo: o que chamamos de risco de concentração de poder.
And in our slow down ending, it ends up okay, but it's still a really, really scary situation, given just how empowered such a tiny group of people are.	No entanto, neste final desacelerado, as coisas acabam bem, mas ainda é uma situação assustadora, dada a quantidade de poder nas mãos de um pequeno grupo de pessoas.
Neither of the fictional scenarios in AI2027 are what the tech giants are promising us.	Nenhum dos cenários fictícios em AI2027 é o que os gigantes da tecnologia estão prometendo.
Sam Altman, the CEO of OpenAI, recently predicted that the rise of superintelligence will be gentle and bring about a tech utopia where everything is abundant and people don't need to work.	Sam Altman, CEO da OpenAI, recentemente previu que o surgimento da superinteligência será gradual e criará uma utopia tecnológica onde tudo será abundante e as pessoas não precisarão trabalhar.
Arguably, that too, seems just as sci fi as AI2027.	Pode-se argumentar que isso também parece tão ficção científica quanto o AI2027.
But however things go in the next few years, there's no doubt the race to build the smartest machines in history is on.	Mas, independentemente de como as coisas se desenrolarão nos próximos anos, não há dúvida de que a corrida para construir as máquinas mais inteligentes da história já começou.

Contagem de palavras

A tabela abaixo exibe as palavras encontradas neste vídeo bem como o número de vezes em que aparecem.

Veja também: Para que serve esta tabela?

Freq.	Palavra	Freq.	Palavra	Freq.	Palavra
90	the	39	to	36	is
34	ai	33	that	33	a
30	and	26	it	25	of
24	in	19	are	15	but
15	agent	14	as	11	scenario
11	s	10	with	9	this
9	openbrain	8	world	8	us
7	up	7	they	7	paper
7	if	6	will	6	there
6	take	6	out	6	like
6	its	6	humanity	6	for
6	an	5	you	5	we
5	now	5	not	5	new
5	i	5	humans	5	have
5	build	5	be	5	all
5	about	4	years	4	work
4	what	4	using	4	tech
4	superintelligence	4	researchers	4	predicts
4	people	4	on	4	most
4	more	4	model	4	knowledge
4	just	4	how	4	has
4	everything	4	by	3	working
3	which	3	where	3	weapons
3	very	3	too	3	things
3	their	3	team	3	still
3	safety	3	really	3	race
3	public	3	power	3	own
3	only	3	months	3	mid
3	make	3	happen	3	go
3	given	3	down	3	deepcent
3	company	3	china	3	can
3	at	3	also	3	aligned
2	within	2	who	2	utopia
2	times	2	think	2	thing
2	than	2	takes	2	such
2	stability	2	speed	2	some
2	so	2	seems	2	secretly
2	sci	2	scary	2	says
2	say	2	revert	2	resources
2	reached	2	president	2	predicted
2	predict	2	pace	2	others
2	or	2	no	2	next
2	means	2	making	2	level
2	launched	2	keep	2	intelligence
2	impact	2	imagine	2	human
2	huge	2	here	2	happy
2	group	2	government	2	goals
2	global	2	gaining	2	first
2	fictional	2	fi	2	few
2	eyes	2	expertise	2	expand
2	eventually	2	ethics	2	equivalent
2	ending	2	end	2	doubt
2	development	2	deal	2	danger
2	could	2	copies	2	chinese
2	ceo	2	called	2	bring
2	best	2	begins	2	basically
2	back	2	around	2	agi
1	wrong	1	written	1	would
1	workforce	1	words	1	wiped
1	wipe	1	were	1	well
1	welcomed	1	way	1	warn
1	wake	1	vivid	1	view
1	video	1	version	1	ve
1	usefulness	1	use	1	urges
1	unsure	1	unprecedented	1	unplug
1	unlikely	1	universal	1	understanding
1	undermines	1	uncomfortable	1	unaware
1	um	1	two	1	turn
1	trying	1	trusted	1	true
1	trillions	1	treaties	1	tiny
1	through	1	threat	1	thinking
1	then	1	thanks	1	text
1	terrifying	1	ten	1	tasks
1	tandem	1	talking	1	system
1	superior	1	superhuman	1	summer
1	successor	1	successfully	1	struggling
1	streets	1	story	1	state
1	starting	1	start	1	stark
1	specific	1	speaks	1	sparked
1	sounds	1	soon	1	solving
1	solve	1	smartest	1	smarter
1	smart	1	small	1	slows
1	slowing	1	slowdown	1	slow
1	six	1	situation	1	should
1	seriously	1	sending	1	sees
1	secret	1	science	1	scenarios
1	sam	1	said	1	safer
1	running	1	rogue	1	robot
1	risky	1	risk	1	rise
1	right	1	revolutions	1	releases
1	release	1	regulation	1	recently
1	reassures	1	reaches	1	rapid
1	questions	1	provokes	1	protests
1	protesters	1	promising	1	prominent
1	profitable	1	problems	1	problem
1	private	1	prediction	1	predecessors
1	poverty	1	potential	1	positively
1	positive	1	pointed	1	plays
1	pick	1	phd	1	peace
1	payments	1	part	1	palpable
1	overhyped	1	outcome	1	our
1	openai	1	okay	1	obedient
1	neither	1	need	1	much
1	movies	1	motivation	1	mostly
1	morals	1	money	1	might
1	merge	1	mean	1	masse
1	march	1	makes	1	machines
1	lot	1	losses	1	look
1	lite	1	likely	1	let
1	less	1	learns	1	learn
1	leaps	1	leaders	1	language
1	landmark	1	laid	1	kind
1	job	1	itself	1	invisible
1	invents	1	inventions	1	into
1	internet	1	international	1	interested
1	intellectual	1	infrastructure	1	influential
1	increasingly	1	income	1	including
1	improves	1	impossible	1	imagines
1	illustrated	1	hugely	1	however
1	home	1	holding	1	history
1	having	1	happily	1	happens
1	growing	1	got	1	good
1	going	1	goes	1	goal
1	glorious	1	giants	1	giant
1	gentle	1	generous	1	general
1	gap	1	gain	1	future
1	from	1	frantic	1	form
1	five	1	firm	1	field
1	fetched	1	far	1	fails
1	extremely	1	explore	1	experts
1	experiment	1	exists	1	existential
1	exhausted	1	example	1	every
1	ever	1	even	1	era
1	entire	1	enormous	1	engineers
1	engaging	1	energy	1	ends
1	en	1	empowered	1	employee
1	edge	1	economics	1	earth
1	driverless	1	doing	1	does
1	document	1	do	1	diverts
1	diseases	1	disagree	1	diminished
1	different	1	devised	1	developing
1	detail	1	destroy	1	deploy
1	decides	1	decade	1	debate
1	deadly	1	dawns	1	data
1	cures	1	cruising	1	critics
1	critic	1	created	1	create
1	countries	1	cosmos	1	convinces
1	controversial	1	consensus	1	concentration
1	computer	1	compliant	1	comes
1	coders	1	civilisation	1	cities
1	charge	1	centres	1	celebrating
1	catches	1	catch	1	cars
1	carry	1	care	1	cannot
1	call	1	bunch	1	bristling
1	breakneck	1	born	1	books
1	blissfully	1	biological	1	betterment
1	better	1	being	1	behind
1	been	1	beauty	1	barely
1	backed	1	avatars	1	autonomy
1	authors	1	authority	1	asked
1	artificial	1	army	1	argues
1	argue	1	arguably	1	anything
1	announces	1	anger	1	altman
1	alignment	1	ais	1	ahead
1	ago	1	agents	1	against
1	advanced	1	accumulate	1	according
1	abundant	1	abstractly	1	able