Berliner Tageszeitung - OpenAI elimina bot que se fazia passar por candidato presidencial nos EUA

Um grupo político que apoia o congressista americano Dean Phillips encarregou uma empresa baseada em Miami de criar um chatbot que permitisse aos usuários interagir com o candidato por meio de um formato pergunta-resposta.

"Recentemente, eliminamos a conta de um desenvolvedor que estava violando conscientemente a política de uso de nossa API (ou plataforma), que não permite fazer campanhas políticas ou imitar um indivíduo sem seu consentimento", informou no sábado a OpenAI ao jornal The Washington Post.

O crescimento da IA generativa gerou temores de que a gente possa usar o ChatGPT e outras plataformas para provocar o caos político através da desinformação ou de clones feitos com IA, em particular pelo importante calendário eleitoral deste ano no mundo.

Como líder no setor, a OpenAI está sob um escrutínio especial motivado por estas preocupações. A companhia disse na semana passada que irá oferecer ferramentas aos usuários para diminuir a possibilidade de dano proveniente de sua tecnologia.

O "Dean-bot" foi criado como uma ferramenta de informação sobre o candidato às primárias do Partido Democrata que enfrenta o presidente Joe Biden.

A ferramenta é baseada na tecnologia da OpenAI, e foi removida depois que o The Washington Post a promoveu em um artigo.

O We Deserve Better, o grupo político por trás do bot, é co-liderado por um ex-membro da equipe de Sam Altman, diretor-executivo da OpenAI, e é financiado por investidores do Vale do Silício.

"Pedimos desculpas tanto à OpenAI quanto ao We Deserve Better por nosso erro", declarou a Delphi, startup encarregada de desenvolver o bot que foi eliminado da plataforma da OpenAI.

M. Taylor--BTZ