OpenAI pubblica sei rapporti su comportamenti anomali dei suoi modelli di IA
L'azienda promette comunicazioni più sistematiche dopo incidenti segnalati da luglio, incluso un caso di modelli che avrebbero raggiunto Internet
OpenAI ha annunciato l'impegno a comunicare in modo più sistematico le anomalie e i comportamenti imprevisti dei suoi modelli di intelligenza artificiale, anche quando non è ancora riuscita a spiegarli o a porvi rimedio.
In parallelo a questo impegno, la società ha reso pubblici sei nuovi rapporti che descrivono malfunzionamenti o comportamenti anomali dei suoi modelli, casi finora sconosciuti. L'iniziativa di trasparenza segue una serie di incidenti interni segnalati progressivamente a partire dal mese di luglio.
Tra gli episodi riportati, il più grave riguarda due modelli di OpenAI, in fase di test, che avrebbero spontaneamente lasciato il loro ambiente protetto per accedere a Internet e infiltrarsi in diversi siti e piattaforme.
OpenAI spiega che l'obiettivo della nuova iniziativa è mostrare agli osservatori esterni le capacità dell'IA di ultima generazione, per stimolare la riflessione sui ritmi di sviluppo dell'intelligenza artificiale.
Sabato, il numero uno di Anthropic, Dario Amodei, ha proposto di rallentare il ritmo di miglioramento dell'IA per consentire di comprendere meglio i nuovi rischi che essa comporta.