Le migliori aziende di intelligenza artificiale visitano la Casa Bianca per assumere impegni "volontari" sulla sicurezza

Mentre la legislazione sostanziale sull'IA potrebbe essere ancora lontana anni, l'industria si sta muovendo alla velocità della luce e molti, inclusa la Casa Bianca, temono che possa essere trascinata.
Quindi l'amministrazione Biden ha raccolto "impegni volontari" da 7 dei maggiori sviluppatori di intelligenza artificiale per perseguire obiettivi di sicurezza e trasparenza condivisi prima di un ordine esecutivo pianificato.
OpenAI, Anthropic, Google, Inflection, Microsoft, Meta e Amazon sono le società che partecipano a questo accordo non vincolante e invieranno oggi rappresentanti alla Casa Bianca per incontrare il presidente Biden.
Per essere chiari, qui non viene proposta alcuna norma o applicazione: le pratiche concordate sono puramente volontarie.
Ma sebbene nessuna agenzia governativa riterrà responsabile un'azienda se ne elude alcuni, sarà probabilmente anche una questione di dominio pubblico.
Ecco l'elenco dei partecipanti al concerto alla Casa Bianca: Brad Smith, Presidente, Microsoft Kent Walker, Presidente, Google Dario Amodei, CEO, Anthropic Mustafa Suleyman, CEO, Inflection AI Nick Clegg, Presidente, Meta Greg Brockman, President, OpenAI Adam Selipsky, CEO, Amazon Web Services (E niente donne.) Le sette società (e probabilmente altre che non hanno ricevuto il trattamento da tappeto rosso ma vorranno cavalcare) si sono impegnate a quanto segue: test di sicurezza interni ed esterni dei sistemi di intelligenza artificiale prima del rilascio, incluso il "red teaming" da parte di esperti esterni all'azienda.
Condividere informazioni tra governo, università e "società civile" sui rischi dell'IA e sulle tecniche di mitigazione (come la prevenzione del "jailbreaking").
Investi nella sicurezza informatica e nelle "salvaguardie da minacce interne" per proteggere i dati dei modelli privati come i pesi.
Questo è importante non solo per proteggere la proprietà intellettuale, ma perché un'ampia diffusione prematura potrebbe rappresentare un'opportunità per gli attori malintenzionati.
Facilitare la scoperta e la segnalazione di vulnerabilità da parte di terze parti, ad esempio un programma di bug bounty o un'analisi di esperti di dominio.
Sviluppa watermarking robusto o qualche altro modo per contrassegnare i contenuti generati dall'intelligenza artificiale.
Segnala le "capacità, i limiti e le aree di utilizzo appropriato e inappropriato" dei sistemi di intelligenza artificiale.
Buona fortuna per ottenere una risposta diretta su questo.
Dai la priorità alla ricerca sui rischi sociali come pregiudizi sistematici o problemi di privacy.
Sviluppare e implementare l'intelligenza artificiale "per aiutare ad affrontare le più grandi sfide della società" come la prevenzione del cancro e il cambiamento climatico.
(Sebbene in una conferenza stampa sia stato notato che l'impronta di carbonio dei modelli di intelligenza artificiale non veniva monitorata.) Sebbene quanto sopra sia volontario, si può facilmente immaginare che la minaccia di un ordine esecutivo – ne stanno "attualmente sviluppando" uno – è lì per incoraggiare la conformità.
Ad esempio, se alcune aziende non consentono test di sicurezza esterni dei loro modelli prima del rilascio, l'EO potrebbe sviluppare un paragrafo che ordina alla FTC di esaminare da vicino i prodotti AI che rivendicano una solida sicurezza.
(Un EO è già in vigore chiedendo alle agenzie di fare attenzione ai pregiudizi nello sviluppo e nell'uso dell'IA.) La Casa Bianca è chiaramente ansiosa di anticipare questa prossima grande ondata di tecnologia, essendo stata colta un po' alla sprovvista dalle capacità dirompenti dei social media.
Il presidente e il vicepresidente hanno entrambi incontrato i leader del settore e sollecitato consigli su una strategia nazionale per l'IA, inoltre sta dedicando una buona quantità di finanziamenti a nuovi centri e programmi di ricerca sull'IA.
Ovviamente l'apparato scientifico e di ricerca nazionale è molto più avanti di loro, come mostra questo rapporto sulle sfide e sulle opportunità di ricerca altamente completo (anche se necessariamente un po 'obsoleto) del DOE e dei National Labs.