Uso indevido da inteligência artificial generativa por hackers preocupa Big tech e OpenAI

Big tech e OpenAI expressaram preocupações recentemente sobre o uso indevido da inteligência artificial generativa (IA) por grupos de hackers para melhorar suas atividades criminosas online. Em um estudo conjunto, a Microsoft e a OpenAI revelaram que o ChatGPT, um modelo de IA desenvolvido pela OpenAI, está sendo utilizado por cibercriminosos para aprimorar seus golpes. De acordo com o estudo, os grupos hackers transformam a IA generativa em um assistente de produtividade, aproveitando sua capacidade de gerar textos coerentes e convincentes. Isso permite que esses cibercriminosos melhorem suas técnicas de phishing e spoofing, que envolvem a utilização de engenharia social para enganar as vítimas, fazendo-as acreditar que estão lidando com pessoas ou empresas legítimas. O ChatGPT é particularmente útil nesses casos, pois é capaz de gerar mensagens persuasivas de forma rápida e eficiente. A OpenAI, em parceria com a Microsoft, tomou medidas para combater esse uso indevido, deletando as contas dos cibercriminosos ligadas ao ChatGPT. Segundo as empresas, algumas dessas contas estavam associadas a serviços de inteligência de nações como a China, Irã, Rússia e Coreia do Norte. A investigação revelou que os cibercriminosos utilizaram a IA generativa para aprimorar scripts e gerar conteúdo para campanhas de phishing. Além disso, o grupo Forest Blizzard, associado às forças armadas russas, utilizou a IA para analisar códigos abertos de pesquisas por comunicação via satélite. No entanto, é importante destacar que o ChatGPT possui algumas limitações para impedir que usuários criem malwares ou utilizem-no para ações negativas. Segundo a OpenAI e a Microsoft, os grupos hackers contavam com a versão paga do ChatGPT, conhecida como ChatGPT Plus, que oferece recursos adicionais, como análise e resumo de documentos. A versão gratuita permite apenas prompts com até 4.000 caracteres. Apesar dessas preocupações e do uso mal-intencionado do ChatGPT, a Microsoft afirmou que nenhuma atividade criminosa relacionada ao uso de IA generativa foi detectada pela sua divisão de segurança. Essa descoberta levanta questões importantes sobre o papel das grandes empresas de tecnologia na garantia da segurança e no controle de acesso a ferramentas avançadas como a IA generativa. A OpenAI e a Microsoft estão trabalhando em conjunto para identificar e mitigar o uso indevido dessas tecnologias, mas o desafio de combater o crime cibernético continua sendo uma tarefa complexa. É fundamental ressaltar que a IA generativa não é intrinsecamente má, mas seu uso indevido por cibercriminosos pode causar sérios danos. Portanto, é responsabilidade das empresas e da comunidade em geral implementar medidas para garantir que essas tecnologias sejam usadas de forma ética e em benefício da sociedade. Devido à sua capacidade de gerar textos automatizados, a IA generativa tem o potencial de revolucionar a forma como interagimos com a tecnologia. Ela pode ser aplicada em diversas áreas, como assistentes virtuais, tradutores automáticos, geração de conteúdo criativo e muito mais. No entanto, é necessário estabelecer salvaguardas adequadas para evitar seu uso indevido. A segurança online é uma preocupação global e requer esforços de colaboração entre governos, empresas de tecnologia e especialistas em segurança cibernética. A regulamentação adequada, juntamente com o desenvolvimento de tecnologias de detecção avançadas, pode desempenhar um papel crucial na prevenção de atividades criminosas e no combate aos cibercriminosos. À medida que avançamos em direção a uma era cada vez mais digital, é essencial investir em pesquisas e desenvolvimento de tecnologias de ponta, bem como em programas de conscientização e educação para aumentar a segurança digital e proteger os usuários contra ameaças cibernéticas. Em conclusão, o uso indevido da inteligência artificial generativa por grupos de hackers é uma preocupação séria e exige ação imediata. A OpenAI e a Microsoft estão trabalhando para combater esse uso indevido, mas é fundamental que governos, empresas e a comunidade em geral se unam para enfrentar esse desafio. Somente através de esforços colaborativos e investimentos em segurança cibernética poderemos garantir um ambiente online seguro e protegido para todos.

Photo by Quang Nguyen Vinh on https://www.pex... Fonte Notícia: https://tecnobl...