EXPLORAÇÃO MALICIOSA DO CHATGPT PARA ATAQUES CIBERNÉTICOS
Palavras-chave:
OpenAI, Inteligência Artificial, ChatGPT, Ataque de Phishing, Segurança CibernéticaResumo
Este artigo investiga a viabilidade de manipular o ChatGPT, uma ferramenta de inteligência artificial desenvolvida e lançada pela OpenAI em 2022. O ChatGPT oferece respostas que abrangem uma ampla gama de tópicos e, apesar de estar programado para não fornecer orientações sobre ataques à segurança da informação, percebe-se que cibercriminosos têm procurado explorar suas possíveis vulnerabilidades, representando ameaças significativas à segurança cibernética. Sendo assim, este estudo averigua a possibilidade de um indivíduo, sem conhecimento especializado em práticas criminosas, utilizar o ChatGPT para gerar conteúdo malicioso, em especial ataques de phishing e, dessa forma, comprometer instituições e indivíduos. A relevância deste estudo fundamenta-se na importância de compreender os riscos de potenciais vulnerabilidades e ameaças da inteligência artificial no contexto da segurança cibernética. Os resultados deste estudo são valiosos, pois fornecerão insights sobre como mitigar possíveis ameaças decorrentes da manipulação do ChatGPT e outros sistemas de IA semelhantes.
Referências
ADDINGTON, Samuel. ChatGPT: ameaças e contramedidas de segurança cibernética. Disponível Em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4425678. Acesso em: 15 maio 2023.
ANU, David Baidoo; ANSAH, Letícia Owusu. Educação na Era da Inteligência Artificial Generativa (IA): Entendendo os Benefícios Potenciais do ChatGPT na Promoção do Ensino e Aprendizagem. Disponível em: https://papers.ssrn.com/sol3/Papers.cfm?abstract_id=4337484. Acesso em: 28 maio 2023
BREWSTER, Thomas. Armados com ChatGPT, cibercriminosos constroem malware e tramam bots femininos falsos. Disponível em: https://tinyurl.com/5etyh3yh. Acesso em: 04 jul. 2023.
CHECK POINT. Check Point Research Reports a 38% Increase in 2022 Global Cyberattacks. Disponível em: https://tinyurl.com/443ppt6x. Acesso em: 04 jul. 2023b.
CHECK POINT. Cybercriminals Bypass ChatGPT Restrictions to Generate Malicious Content. 2023. Disponível em: https://tinyurl.com/mr2camj4. Acesso em: 04 jul. 2023a.
CISOADVISOR. Hackers utilizam IA do ChatGPT para criar malwares. Disponível em: https://tinyurl.com/2cn6tya4. Acesso em: 02 jun. 2023.
CYBLE. Threat Actor Spreads Malware via Fraudulent ChatGPT social media page. Disponível em: https://tinyurl.com/bdds7af5. Acesso em: 10 jul. 2023.
GIL, José Albeiro Montes. Implementação de um sistema de detecção de intrusos suportado em técnicas de aprendizado supervisionado orientado a serviços na nuvem para detecção de ataques de negação de serviços distribuídos. Disponível em: https://repositorio.unal.edu.co/handle/unal/83889. Acesso em: 23 maio 2023.
INFORCHANNEL. ChatGPT poderá ser usado para ataques cibernéticos, afirma BlackBerry. Disponível em: https://tinyurl.com/3txchcu5. Acesso em: 25 jun. 2023.
OPENAI. ChatGPT. Disponível em: https://openai.com/product/chatgpt. Acesso em: 15 maio 2023.
PERGENTINO, Camila. Como hackers passaram a usar o ChatGPT para cometer cibercrimes. Disponível em: https://tinyurl.com/2p9257c9. Acesso em: 04 jul. 2023.
VOLODIN, Alexey; VANUNU, Oded. Quebrando o mal da gpt-4: a pesquisa da Check Point expõe como os limites de segurança podem ser violados enquanto as máquinas lutam com conflitos internos. Disponível em: https://tinyurl.com/2zf8mvhw. Acesso em: 04 jul. 2023.
TOULAS, Bill. Hackers usam aplicativos ChatGPT falsos para enviar malware para Windows e android. Disponível em: https://encurtador.com.br/cvB23. Acesso em: 29 set. 2023.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2023 FatecSeg - Congresso de Segurança da Informação
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.
