A seguito del divieto in Italia, OpenAI, la società responsabile del popolare chatbot ChatGPT, ha invitato gli utenti a scoprire difetti nei suoi sistemi di intelligenza artificiale, offrendo una ricompensa massima di 20.000 dollari.
Cosa è successo
La Bug Bounty Initiative di OpenAI premia le persone in base alla gravità dei bug segnalati. Il programma inizia con una ricompensa base compresa tra 200 e 6.500 dollari per ogni vulnerabilità identificata.
La società ha dichiarato: «Per incentivare i test e come segno del nostro apprezzamento, offriremo premi in denaro in base alla gravità e all’impatto dei problemi segnalati. I nostri premi vanno da 200 dollari per problemi di bassa gravità fino a 20.000 dollari per le scoperte eccezionali».
Sebbene OpenAI abbia invitato ricercatori di sicurezza e hacker etici a segnalare vulnerabilità, bug o falle di sicurezza nei suoi sistemi, l’azienda ha severamente vietato questioni relative al contenuto dei prompt e delle risposte dei modelli.
Ciò include jailbreak e bypass di sicurezza come i prompt del DAN, il far dire cose cattive al modello o la scrittura di codici dannosi.
Perché è importante
OpenAI non è la prima azienda che ha adottato un programma di bug bounty. Aziende tecnologiche come Meta Platforms Inc. (NASDAQ:META) spesso adottano questo approccio per incoraggiare gli utenti a segnalare bug nei propri software.
Nel frattempo, l’Italia è ora il primo paese occidentale a vietare ChatGPT, citando preoccupazioni sui problemi di privacy legati al modello.