Per promuovere l’uso etico dell’intelligenza artificiale (AI), Meta Platforms Inc. (NASDAQ:META) ha introdotto “Purple Llama”, un progetto progettato per aiutare gli sviluppatori a creare un’AI responsabile, ha annunciato l’azienda mercoledì.
Meta ha svelato che il progetto è stato pensato per amalgamare strumenti e valutazioni per aiutare gli sviluppatori a creare in modo responsabile modelli di AI generativi aperti. Il progetto prende il suo nome dal concetto di “purple teaming” della sicurezza informatica, che combina strategie offensive e difensive, offrendo un approccio completo per valutare e mitigare i potenziali rischi.
La versione iniziale di “Purple Llama” includerà strumenti e valutazioni per la sicurezza informatica e le salvaguardie di input/output. Queste componenti saranno concesse in licenza in modo permissivo, rendendole accessibili sia per scopi di ricerca che commerciali.
Come parte del suo impegno per la scienza aperta e trasparente, Meta sta anche lanciando “Llama Guard”, un modello fondamentale per aiutare gli sviluppatori a evitare la generazione di output potenzialmente rischiosi. Questo modello è stato addestrato su vari set di dati pubblicamente disponibili per rilevare contenuti comunemente rischiosi o in violazione.
Meta immagina di consentire agli sviluppatori di personalizzare le future versioni in base alle loro specifiche esigenze, rendendo così più facile adottare le migliori pratiche e migliorare l’ecosistema aperto. L’azienda si aspetta di collaborare con partner che condividono una visione simile per un ecosistema aperto di intelligenza artificiale generativa sviluppata in modo responsabile.
Perché è importante
Il lancio di Purple Llama rappresenta gli sforzi continui di Meta verso lo sviluppo sicuro dell’IA a seguito del lancio di LLaMA a febbraio di quest’anno per assistere ricercatori ed ingegneri nel progresso delle applicazioni di intelligenza artificiale.
Inoltre, l’enfasi dell’azienda sull’AI è stata evidenziata durante la sua annuale conferenza Connect, dove l’AI è stata al centro dell’attenzione, indicando un cambiamento nel focus dell’azienda dallo sviluppo della realtà virtuale allo sviluppo dell’AI. Competendo con il ChatGPT di OpenAI e il Bing Chat di Microsoft, alcuni ricercatori di AI credono che LLaMa darà una nuova forma al panorama LLM, nonostante molti investitori trovino vaga la proposta di valore.
Creato da Benzinga Neuro, Modificato da Pooja Rajkumari
Il sistema di generazione di contenuti Benzinga Neuro basato su GPT-4 sfrutta l’ampio ecosistema di Benzinga, compresi dati nativi, API e altro ancora per creare storie complete e tempestive per te. Scopri di più.
Credito immagine – Shutterstock