I leader di OpenAI propongono un organismo di regolamentazione internazionale per l'IA

L'intelligenza artificiale si sta sviluppando abbastanza rapidamente e i pericoli che può comportare sono abbastanza chiari che la leadership di OpenAI ritiene che il mondo abbia bisogno di un organismo di regolamentazione internazionale simile a quello che governa l'energia nucleare, e in tempi rapidi.
Ma non troppo in fretta.
In un post sul blog dell'azienda, il fondatore di OpenAI Sam Altman, il presidente Greg Brockman e il capo scienziato Ilya Sutskever spiegano che il ritmo dell'innovazione nell'intelligenza artificiale è così rapido che non possiamo aspettarci che le autorità esistenti riescano a frenare adeguatamente la tecnologia.
Sebbene qui ci sia una certa qualità nel darsi una pacca sulla spalla, è chiaro a qualsiasi osservatore imparziale che la tecnologia, più visibilmente nell'esplosivamente popolare agente di conversazione ChatGPT di OpenAI, rappresenta una minaccia unica oltre che una risorsa inestimabile.
Il post, in genere piuttosto leggero su dettagli e impegni, ammette tuttavia che l'IA non si gestirà da sola: abbiamo bisogno di un certo grado di coordinamento tra i principali sforzi di sviluppo per garantire che lo sviluppo della superintelligenza avvenga in un modo che ci consenta sia mantenere la sicurezza e facilitare l'integrazione di questi sistemi con la società.
È probabile che alla fine avremo bisogno di qualcosa come un'[Agenzia internazionale per l'energia atomica] per gli sforzi di superintelligenza; qualsiasi sforzo al di sopra di una certa soglia di capacità (o risorse come il calcolo) dovrà essere soggetto a un'autorità internazionale in grado di ispezionare i sistemi, richiedere audit, verificare la conformità agli standard di sicurezza, porre restrizioni sui gradi di implementazione e sui livelli di sicurezza, ecc.
L'AIEA è l'organismo ufficiale delle Nazioni Unite per la collaborazione internazionale sulle questioni relative all'energia nucleare, anche se naturalmente, come altre organizzazioni simili, può desiderare il pugno.
Un organo di governo dell'IA costruito su questo modello potrebbe non essere in grado di intervenire e attivare un cattivo attore, ma può stabilire e monitorare standard e accordi internazionali, che è almeno un punto di partenza.
Il post di OpenAI rileva che il monitoraggio della potenza di calcolo e dell'utilizzo dell'energia dedicati alla ricerca sull'IA è una delle relativamente poche misure oggettive che possono e probabilmente dovrebbero essere segnalate e monitorate.
Sebbene possa essere difficile dire che l'IA dovrebbe o non dovrebbe essere utilizzata per questo o quello, può essere utile dire che le risorse ad essa dedicate dovrebbero, come altri settori, essere monitorate e controllate.
(Le aziende più piccole potrebbero essere esentate per non soffocare i germogli verdi dell'innovazione, ha suggerito la società).
diversamente, le aziende non si limiteranno ad autoregolamentarsi.
Abbiamo bisogno di regolamentazione e abbiamo bisogno di qualcosa di meglio di un semplice motivo di profitto ".
OpenAI ha visibilmente abbracciato quest'ultimo, con costernazione di molti che speravano che sarebbe stato all'altezza del suo nome, ma almeno come leader di mercato sta anche chiedendo un'azione reale sul lato della governance – al di là delle udienze l'ultima, dove i senatori si schierano fare discorsi di rielezione che finiscono con punti interrogativi.
Sebbene la proposta equivalga a "forse dovremmo, tipo, fare qualcosa", è almeno un inizio di conversazione nel settore e indica il supporto del più grande marchio e fornitore di intelligenza artificiale al mondo per fare quel qualcosa.
La supervisione pubblica è disperatamente necessaria, ma "non sappiamo ancora come progettare un tale meccanismo".
E sebbene i leader dell'azienda affermino di essere favorevoli a frenare, non ci sono ancora piani per farlo, sia perché non vogliono lasciar andare l'enorme potenziale "per migliorare le nostre società" (per non parlare dei profitti) sia perché perché c'è il rischio che i malintenzionati abbiano il piede sull'acceleratore.
I leader di OpenAI propongono un organismo di regolamentazione internazionale per l'IA di Devin Coldewey originariamente pubblicato su TechCrunch