Questa settimana in AI: le aziende si sottopongono volontariamente alle linee guida AI – per ora

Stare al passo con un settore in rapida evoluzione come l'intelligenza artificiale è un compito arduo.
Quindi, fino a quando un'intelligenza artificiale non può farlo per te, ecco una comoda carrellata di storie recenti nel mondo dell'apprendimento automatico, insieme a ricerche ed esperimenti notevoli che non abbiamo trattato da soli.
Questa settimana in AI, abbiamo visto OpenAI, Anthropic, Google, Inflection, Microsoft, Meta e Amazon impegnarsi volontariamente a perseguire obiettivi condivisi di sicurezza e trasparenza dell'IA prima di un ordine esecutivo pianificato dall'amministrazione Biden.
Come scrive il mio collega Devin Coldewey, qui non viene proposta alcuna regola o applicazione: le pratiche concordate sono puramente volontarie.
Ma gli impegni indicano, a grandi linee, gli approcci normativi e le politiche di intelligenza artificiale che ciascun fornitore potrebbe trovare modificabili negli Stati Uniti e all'estero.
Tra gli altri impegni, le aziende si sono offerte volontarie per condurre test di sicurezza dei sistemi di IA prima del rilascio, condividere informazioni sulle tecniche di mitigazione dell'IA e sviluppare tecniche di watermarking che rendano più facile l'identificazione dei contenuti generati dall'IA.
Hanno anche affermato che avrebbero investito nella sicurezza informatica per proteggere i dati privati dell'IA e facilitare la segnalazione delle vulnerabilità, oltre a dare priorità alla ricerca sui rischi sociali come pregiudizi sistemici e problemi di privacy.
Gli impegni sono un passo importante, certo, anche se non sono applicabili.
Ma viene da chiedersi se ci siano secondi fini da parte dei sottoscrittori.
Le migliori aziende di intelligenza artificiale visitano la Casa Bianca per assumere impegni "volontari" sulla sicurezza Secondo quanto riferito, OpenAI ha redatto un memo di politica interna che mostra che l'azienda sostiene l'idea di richiedere licenze governative a chiunque desideri sviluppare sistemi di intelligenza artificiale.
Il CEO Sam Altman ha sollevato l'idea per la prima volta in un'udienza al Senato degli Stati Uniti a maggio, durante la quale ha sostenuto la creazione di un'agenzia che potrebbe rilasciare licenze per i prodotti AI e revocarle se qualcuno violasse le regole stabilite.
In una recente intervista con la stampa, Anna Makanju, vicepresidente degli affari globali di OpenAI, ha insistito sul fatto che OpenAI non stava "spingendo" per le licenze e che la società supporta solo regimi di licenza per modelli di intelligenza artificiale più potenti dell'attuale GPT-4 di OpenAI.
Ma le licenze rilasciate dal governo, se implementate nel modo proposto da OpenAI, preparano il terreno per un potenziale scontro con startup e sviluppatori open source che potrebbero vederle come un tentativo di rendere più difficile per gli altri l'irruzione nello spazio.
Devin l'ha detto meglio, credo, quando me l'ha descritto come "lasciare cadere chiodi sulla strada dietro di loro in una corsa".
Per lo meno, illustra la natura bifronte delle aziende di intelligenza artificiale che cercano di placare le autorità di regolamentazione mentre modellano la politica a loro favore (in questo caso mettendo in svantaggio i piccoli sfidanti) dietro le quinte.
È uno stato di cose preoccupante.
Ma, se i responsabili politici si fanno avanti, c'è ancora speranza per garanzie sufficienti senza indebite interferenze da parte del settore privato.
Ecco altre storie di IA degne di nota degli ultimi giorni: Il capo della fiducia e della sicurezza di OpenAI si dimette: Dave Willner, un veterano del settore che era il capo della fiducia e della sicurezza di OpenAI, ha annunciato in un post su LinkedIn che ha lasciato il lavoro ed è passato a un ruolo di consulenza.
OpenAI ha dichiarato in una dichiarazione che sta cercando un sostituto e che il CTO Mira Murati gestirà il team ad interim.
Istruzioni personalizzate per ChatGPT: in altre notizie su OpenAI, la società ha lanciato istruzioni personalizzate per gli utenti di ChatGPT in modo che non debbano scrivere le stesse istruzioni al chatbot ogni volta che interagiscono con esso.
IA di Google che scrive notizie: Google sta testando uno strumento che utilizza l'intelligenza artificiale per scrivere notizie e ha iniziato a dimostrarlo alle pubblicazioni, secondo un nuovo rapporto del New York Times.
Il gigante della tecnologia ha presentato il sistema di intelligenza artificiale al New York Times, al Washington Post e al proprietario del Wall Street Journal, News Corp.
Apple testa un chatbot simile a ChatGPT: Apple sta sviluppando l'intelligenza artificiale per sfidare OpenAI, Google e altri, secondo un nuovo rapporto di Mark Gurman di Bloomberg.
In particolare, il gigante della tecnologia ha creato un chatbot che alcuni ingegneri chiamano internamente "Apple GPT".
Meta rilascia Llama 2: Meta ha svelato una nuova famiglia di modelli AI, Llama 2, progettati per guidare le app sulla falsariga di ChatGPT di OpenAI, Bing Chat e altri chatbot moderni.
Formatosi su un mix di dati pubblicamente disponibili, Meta afferma che le prestazioni di Llama 2 sono migliorate in modo significativo rispetto alla precedente generazione di modelli Llama.
Gli autori protestano contro l'intelligenza artificiale generativa: i sistemi di intelligenza artificiale generativa come ChatGPT sono addestrati su dati disponibili pubblicamente, inclusi i libri, e non tutti i creatori di contenuti sono soddisfatti dell'accordo.
In una lettera aperta firmata da oltre 8.500 autori di narrativa, saggistica e poesia, le società tecnologiche dietro grandi modelli linguistici come ChatGPT, Bard, LLaMa e altri vengono rimproverate per aver utilizzato la loro scrittura senza permesso o compenso.
Microsoft porta Bing Chat nelle aziende: alla conferenza annuale Inspire, Microsoft ha annunciato Bing Chat Enterprise, una versione del suo chatbot Bing Chat basato sull'intelligenza artificiale con controlli di governance e privacy dei dati incentrati sul business.
Con Bing Chat Enterprise, i dati della chat non vengono salvati, Microsoft non può visualizzare i dati aziendali o dei dipendenti di un cliente e i dati del cliente non vengono usati per addestrare i modelli di intelligenza artificiale sottostanti.
Altri apprendimenti automatici Tecnicamente anche questa era una notizia, ma vale la pena menzionarla qui nella sezione di ricerca.
Fable Studios, che in precedenza ha realizzato cortometraggi in CG e 3D per VR e altri media, ha mostrato un modello di intelligenza artificiale che chiama Showrunner che (afferma) può scrivere, dirigere, recitare e montare un intero programma televisivo – nella loro demo, era South Park.
Forse mettere in mostra un finto episodio televisivo generato dall'intelligenza artificiale durante uno sciopero degli scrittori è una cattiva idea.
Da un lato, penso che perseguire questo obiettivo, figuriamoci durante un enorme sciopero di Hollywood che coinvolge problemi di compensazione e intelligenza artificiale, sia piuttosto di cattivo gusto.
Sebbene il CEO Edward Saatchi abbia affermato di ritenere che lo strumento metta il potere nelle mani dei creatori, è discutibile anche il contrario.
In ogni caso non è stato accolto particolarmente bene dalle persone del settore.
D'altra parte, se qualcuno dal lato creativo (come Saatchi è) non esplora e dimostra queste capacità, allora saranno esplorate e dimostrate da altri con meno scrupoli nel metterle a frutto.
Anche se le affermazioni di Fable sono un po' espansive per quello che effettivamente hanno mostrato (che ha seri limiti) è come l'originale DALL-E in quanto ha suscitato discussioni e anzi preoccupazione anche se non era un sostituto per un vero artista.
L'intelligenza artificiale avrà un posto nella produzione dei media in un modo o nell'altro, ma per tutta una serie di ragioni dovrebbe essere affrontata con cautela.
Dal punto di vista della politica, poco tempo fa abbiamo avuto il National Defense Authorization Act (legge sull'autorizzazione alla difesa nazionale) con (come al solito) alcuni emendamenti politici davvero ridicoli che non hanno nulla a che fare con la difesa.
Ma tra questi c'era un'aggiunta che il governo deve ospitare un evento in cui i ricercatori e le aziende possono fare del loro meglio per rilevare i contenuti generati dall'intelligenza artificiale.
Questo genere di cose si sta decisamente avvicinando ai livelli di "crisi nazionale", quindi probabilmente è un bene che sia scivolato lì dentro.
Alla Disney Research, cercano sempre di trovare un modo per collegare il digitale e il reale, presumibilmente per scopi di parco.
In questo caso hanno sviluppato un modo per mappare i movimenti virtuali di un personaggio o il motion capture (diciamo per un cane CG in un film) su un robot reale, anche se quel robot ha una forma o una dimensione diversa.
Si basa su due sistemi di ottimizzazione che si informano reciprocamente su ciò che è ideale e ciò che è possibile, un po' come un piccolo ego e un super-ego.
Questo dovrebbe rendere molto più facile far comportare i cani robot come cani normali, ma ovviamente è generalizzabile anche ad altre cose.
E speriamo che l'intelligenza artificiale possa aiutarci ad allontanare il mondo dall'estrazione di minerali dal fondo marino, perché è decisamente una cattiva idea.
Uno studio multi-istituzionale ha utilizzato la capacità dell'intelligenza artificiale di filtrare il segnale dal rumore per prevedere la posizione di preziosi minerali in tutto il mondo.
Come scrivono in astratto: In questo lavoro, abbracciamo la complessità e il "disordine" intrinseco dei sistemi geologici, chimici e biologici intrecciati del nostro pianeta impiegando l'apprendimento automatico per caratterizzare i modelli incorporati nella multidimensionalità della presenza e delle associazioni minerali.
Lo studio ha effettivamente previsto e verificato le posizioni di uranio, litio e altri minerali preziosi.
E che ne dici di questo per una linea di chiusura: il sistema "migliorerà la nostra comprensione della mineralizzazione e degli ambienti mineralizzanti sulla Terra, attraverso il nostro sistema solare e attraverso il tempo profondo".
Eccezionale.