Stephen Hawking previu ações das IA

O famoso físico Stephen Hawking fez uma previsão ousada sobre a extinção de humanos com inteligência artificial avançada quase uma década atrás.

A visão apocalíptica foi apresentada em uma carta ao jornal The Independent em 2014, muito antes de ChatGPT, Midjourney e outros produtos de IA chegarem às manchetes.

Na época, o gênio afirmou que a inteligência artificial era “a maior conquista da humanidade até agora, e talvez a última”.

Hawking acreditava que os benefícios podem ser grandes, mas é impossível prever as consequências da tecnologia avançada – boas e ruins.

O documento também foi assinado por outros físicos e cientistas como Max Tegmark, Frank Wilczek e Stuart Russel.

Os quatro se comparam à ficção científica, como Transcendence – Revolution, estrelado por Johnny Depp, que gira em torno da rebelião da máquina contra seu criador.

IAs serão terríveis porque não têm limites

“Olhando para o futuro, não há limite fundamental para o que pode ser alcançado:

Não há lei da física que impeça as peças de se montarem para possibilitar cálculos ainda mais avançados que o cérebro humano”, explicou.

O famoso cientista também lembrou um ensaio de 1965 do matemático Irving John Good sobre “máquinas com inteligência sobre-humana”.

Esses robôs podem melhorar seu design de novo e de novo, eles podem melhorar seu trabalho cada vez mais e liberar o conceito chamado de singularidade.

Quase 70 anos depois, essa configuração é usada pela maioria dos chatbots.

E IAs modernos, que estão melhorando, embora ainda estejam longe de causar o apocalipse.

Finalmente, Hawking prevê que as máquinas podem lidar com mercados financeiros e humanos.

Eles também podem criar armas que os humanos não podem controlar e provavelmente significariam o fim de uma espécie.

Essa é uma visão de futuro, que Hollywood já elaborou em séries e filmes.

Ele não se importa com regulamentos e correntes

Hawking também lançou luz sobre uma questão muito atual hoje: a falta de legitimidade no campo da IA.

Segundo o pesquisador, em 2014 foram feitas pouquíssimas pesquisas para reduzir o risco associado à inteligência artificial.

A maioria delas realizadas por pequenas instituições que não têm orçamento para experimentos em larga escala.

“Se criarmos uma inteligência artificial e essa inteligência decidir viver, a vontade de viver seria irrelevante, pré-programada, mesmo que involuntária.

Ou algo que deve ser respeitado? E o que deveria ser?”, tinham as máquinas?

Concluiu Stephen Hawking no distante ano de 2014 em sua visão que lembra a obra das irmãs Lana e Lilly Wachowski intitulada Animatrix.

É surpreendente que a humanidade esteja enfrentando a mesma situação que enfrentou há quase dez anos.

Essa reflexão mostra como gênios como Hawking podem pensar à frente de seu tempo, mas nem sempre conseguem agir para evitar desastres.

Você acha que a inteligência artificial trará um futuro promissor para a humanidade ou transformará a Terra em uma ruína, como Matrix?

---

*Fonte de pesquisa: Autoral

Stephen Hawking, com sua mente brilhante e visão futurista, não apenas profetizou os potenciais perigos da inteligência artificial (IA), mas também nos deixou um legado de reflexão sobre as implicações éticas e existenciais dessa tecnologia. O cientista tinha um profundo entendimento dos dilemas que a IA pode gerar, e suas previsões nos instigam a considerar o papel da humanidade em um mundo cada vez mais dominado por máquinas inteligentes.

O conceito de singularidade, mencionado por Hawking, nos apresenta um cenário onde a IA não só se torna tão inteligente quanto os humanos, mas supera nossa capacidade de entendimento e controle. Essa ideia é inquietante, pois implica que, em determinado momento, as máquinas poderiam tomar decisões de forma autônoma, sem a supervisão humana. Isso levanta questões cruciais: quem seria responsável pelas ações dessas máquinas? Como assegurar que elas operem em benefício da humanidade e não em seu detrimento?

Além disso, Hawking chamava a atenção para a necessidade urgente de regulamentação na pesquisa em IA. O crescimento acelerado dessa tecnologia levanta um alerta sobre a falta de diretrizes e legislação que possam garantir que seu desenvolvimento ocorra dentro de parâmetros seguros e éticos. Em um mundo onde as empresas competem ferozmente por inovações, a pressão para criar soluções rápidas e eficazes pode eclipsar a responsabilidade social. Sem regulamentações apropriadas, o risco de um uso indevido da IA aumenta exponencialmente.

A falta de regulamentação não se limita apenas à criação e desenvolvimento de IA, mas se estende também ao uso de suas capacidades em áreas sensíveis, como a militarização. A possibilidade de que máquinas autônomas possam ser armadas e utilizadas em conflitos bélicos é um motivo de preocupação crescente entre especialistas. A história já nos mostrou os horrores da guerra, e a adição de máquinas que tomam decisões letais sem a intervenção humana poderia resultar em consequências inimagináveis.

Outra questão que permeia as reflexões de Hawking é o impacto da IA no mercado de trabalho. A automação e a inteligência artificial têm o potencial de substituir um grande número de empregos, colocando em risco a segurança financeira de milhões de pessoas. Se não forem implementadas políticas que garantam uma transição justa, podemos nos deparar com um aumento da desigualdade social e econômica. Isso não apenas afetaria o bem-estar individual, mas também poderia gerar instabilidade social.

A filosofia de Hawking sobre a IA nos incita a pensar de forma crítica sobre a relação entre humanos e tecnologia. Ele nos lembra que, enquanto a IA pode trazer benefícios sem precedentes, também traz à tona dilemas éticos que não podem ser ignorados. Devemos nos perguntar: como podemos criar um futuro onde a tecnologia serve à humanidade e não o contrário? Essa é uma questão que todos devemos considerar à medida que avançamos em um mundo cada vez mais digital.

Portanto, cabe a nós, como sociedade, tomar iniciativas para garantir que a inteligência artificial evolua em um ambiente controlado e ético. O legado de Stephen Hawking é um chamado a ação: devemos estar vigilantes, informados e prontos para moldar um futuro que, ao invés de ser sombrio como o de Matrix, seja promissor e cheio de oportunidades para todos.

O famoso

\