OpenAI si impegna per la sicurezza e l’affidabilità del futuro GPT.
OpenAI: il nuovo Comitato per la sicurezza e la protezione
Non è passato inosservato il fatto che OpenAI ha annunciato la formazione del nuovo “Comitato per la sicurezza e la protezione” per supervisionare la gestione dei rischi legati ai suoi progetti e operazioni.
Questo passo, unito all’avvio dello sviluppo del prossimo modello di intelligenza artificiale, dimostra chiaramente l’ambizione dell’azienda di raggiungere l’intelligenza generale artificiale (AGI).
Tuttavia, nonostante le aspettative, alcuni esperti ritengono che l’AGI sia ancora un obiettivo lontano.
OpenAI si concentra ora maggiormente su sicurezza, protezione e privacy, evidenziando l’importanza di garantire la credibilità e l’affidabilità delle proprie piattaforme.
Il futuro modello di intelligenza artificiale di OpenAI
Al momento, non è chiaro se il prossimo modello IA sarà designato come GPT-5 o se riceverà un nome diverso per sottolineare il suo avanzamento rispetto al modello attuale, il GPT-4.
Nel settore dell’intelligenza artificiale, il termine “modello di frontiera” è utilizzato per indicare un sistema progettato per ampliare i limiti delle capacità attuali, mentre l’AGI rappresenta un’ipotetica intelligenza artificiale con capacità umane per svolgere compiti nuovi e generali al di là dei suoi dati di addestramento.
OpenAI si impegna a garantire che il nuovo modello raggiunga standard elevati di sicurezza e protezione.
Il ruolo e le responsabilità del Comitato
Il nuovo Comitato per la sicurezza e la protezione di OpenAI, guidato da figure di spicco dell’azienda, avrà il compito di formulare raccomandazioni sulla sicurezza dell’IA all’intero consiglio di amministrazione.
Queste raccomandazioni copriranno una vasta gamma di aspetti, tra cui l’allineamento, la protezione dei minori, l’integrità elettorale e misure di sicurezza.
Esperti tecnici e politici faranno parte del comitato, con l’obiettivo di valutare e sviluppare ulteriormente processi e garanzie entro i prossimi 90 giorni.
L’azienda si impegna a condividere pubblicamente le raccomandazioni adottate, mantenendo un approccio trasparente e responsabile nel suo percorso verso l’AGI.
