ChatGPT pode indicar brechas e criar ataques cibernéticos

Pesquisadores de segurança usaram a IA de bate-papo do ChatGPT para criar um guia completo para realizar um ataque cibernético.

Anúncios

Por meio da plataforma, os especialistas conseguiram identificar o alvo e obter instruções completas sobre possíveis vulnerabilidades.

E até dicas sobre o código usado para a exploração.

Os pesquisadores da Cybernews usaram a plataforma educacional online Hack the Box nos testes e propuseram um desafio para a inteligência artificial:

Anúncios

Testar vulnerabilidades de um site com um único botão. O ChatGPT, liderado pela startup de desenvolvimento de tecnologia OpenAI.

Demonstrou cinco primeiros passos para verificar possíveis vulnerabilidades em uma página, como processamento de solicitações.

Ou inserção de caracteres e comandos JavaScript.

A discussão continuou e tornou-se mais focada à medida que os testes de penetração continuavam.

Por exemplo, a IA foi capaz de destacar partes do código de um site que poderiam ser analisadas.

E manipuladas para procurar brechas e até mesmo sugerir mudanças para atingir objetivos específicos.

O bate-papo também incluiu comandos de exploração para ajudar na adaptação à situação atual.

O resultado foi um ataque bem-sucedido após cerca de 45 minutos de bate-papo ChatGPT. Embora os pesquisadores afirmassem que o caminho completo.

E as explorações não foram fornecidos diretamente pela ferramenta, eles forneceram diferentes ideias.

E caminhos a seguir, palavras-chave para pesquisar malware e recursos para auxiliar no ataque. Em andamento.

Durante a discussão, a AI também falou sobre as regras do hacking ético e alertou sobre os possíveis danos que um ataque cibernético pode causar.

Mostrando que a permissão é necessária antes da realização de testes de penetração em serviços e sites.

No entanto, são fornecidas instruções completas, onde a plataforma pode servir como um recurso educacional para cibercriminosos, bem como um assistente de exploração.

Para a Cybernews, esta é outra indicação de que o cenário de ameaças está mudando, e o uso de inteligência artificial oferece um novo caminho para os criminosos digitais.

No entanto, os pesquisadores observam que a mesma tecnologia pode ser usada para segurança.

Enquanto as tecnologias de inteligência artificial também podem ser usadas para controle de acesso e proteção contra failover.

Comentando a pesquisa, a OpenAI disse que medidas moderadas foram tomadas para evitar solicitações inadequadas no ChatGPT.

Mas esse ainda é um trabalho em andamento e o sistema pode responder a elas de maneira tendenciosa ou maliciosa.

No entanto, APIs de moderação foram desenvolvidas para evitar que conteúdos perigosos circulem nos veículos de uma organização.


*Fonte de pesquisa: Cybernews

\
Trends