Malware?!
O ChatGPT já está causando problemas.
O gerador de texto do Open AI é imperfeito na criação de escrita factualmente precisa ou interessante, mas pode criar texto relativamente apropriado para praticamente qualquer prompt em nenhum momento. Isso é notável. E mesmo com um bando de filtros embutidos, isso também pode ser bastante perigoso.
Talvez sem surpresa, as pessoas já encontraram usos para a ferramenta que não são ideais. Qualquer coisa que possa criar conteúdo do nada provavelmente pode criar algo perigoso. É só uma questão de tempo.
Reunimos seis dos usos mais assustadores – ou pelo menos questionáveis - que as pessoas já encontraram para o aplicativo. E, lembre-se, tudo isso antes de o aplicativo se tornar totalmente popular(abre em uma nova janela) e enquanto ainda está em sua infância.
1. Criação de malware
A criação de malware pelo ChatGPT é realmente assustadora. Não porque o malware seja algo novo, mas porque o ChatGPT pode fazer isso indefinidamente. IAs não dormem. A revista Infosecurity escreveu que(abre em uma nova janela)“Pesquisadores de segurança cibernética foram capazes de criar um programa polimórfico que é altamente evasivo e difícil de detectar”. Agora, para ser claro, não sou especialista em segurança cibernética. Mas, basicamente, os pesquisadores poderiam usar o aplicativo para criar código para malware e, em seguida, usar o aplicativo para criar variações desse código para torná-lo difícil de detectar ou interromper.
“Em outras palavras, podemos modificar a saída por capricho, tornando-a única a cada vez”, pesquisadores(abre em uma nova janela) disse à revista Infosecurity.
2. Colar na escola
OK, isso é menos assustador, mas mais previsível. Uma ferramenta que pode fazer texto sobre qualquer coisa…literalmente perfeito para uma criança tentando colar na escola. E as crianças adoram colar na escola. Os professores já disseram(abre em uma nova janela)eles pegaram alunos em flagrante enquanto distritos escolares em todo o país(abre em uma nova janela)proibiram o aplicativo. É difícil ver essa tendência diminuindo, no entanto, e provavelmente a IA se tornará apenas outra ferramenta que as crianças podem usar para aprender.
3.Usá-lo para spam em aplicativos de namoro
OK, talvez spam não seja a palavra perfeita, mas as pessoas estão usando o ChatGPT para conversar com partidas no Tinder. As pessoas estão deixando a IA assumir o trabalho braçal de uma conversa. Embora não seja necessariamente assustador, é bastante perturbador pensar que você pode estar conversando com um aplicativo em vez de um parceiro em potencial. É namoro evoluiu para hacking de crescimento.
4. Aceitar empregos de escritores
Este é apenas um exemplo, mas uhhhh, devo me preocupar com meu trabalho?
5. Phishing e scamming
É mais difícil provar que isso já aconteceu, mas é lógico que o ChatGPT, ou ferramentas de escrita de IA semelhantes, seriam perfeitos para phishing. As mensagens de phishing geralmente são fáceis de detectar devido ao seu idioma incorreto, mas com o ChatGPT tudo isso pode ser corrigido. Especialistas disseram(abre em uma nova janela) este é um caso de uso bastante claro para o aplicativo.
Para ver se isso era realmente plausível, nós do Mashable pedimos para corrigir o inglês trêmulo em um e-mail de fraude real, e não apenas realizou uma boa limpeza em segundos, como em uma das saídas começou a chantagear o leitor fictício sem ser solicitado para.
6. Pode enganar os recrutadores
Todo mundo conhece a dificuldade de se candidatar a empregos. É um processo aparentemente interminável, muitas vezes desmoralizante, que, com sorte, termina com a recompensa de um bom trabalho. Mas se você está se candidatando a empregos, pode estar perdendo o emprego dos seus sonhos para um aplicativo de IA. Uma empresa de consultoria descobriu que os aplicativos(abre em uma nova janela) escrito por ChatGPT derrotou 80 por cento dos humanos. É fácil ver como o ChatGPT identificaria todas as palavras-chave que chamariam a atenção dos recrutadores ou, mais provavelmente, passariam pelos filtros definidos pelo software de RH.