Man mano che i generatori di porno AI migliorano, la posta in gioco aumenta

Man mano che l'IA generativa entra nel mainstream, anche il porno generato dall'IA fa il suo ingresso.
E come il suo fratello più rispettabile, sta migliorando.
Quando TechCrunch ha coperto gli sforzi per creare generatori di porno AI quasi un anno fa, le app erano nascenti e relativamente poche e lontane tra loro.
E i risultati non erano quelli che qualcuno chiamerebbe "buoni".
Le app ei modelli di intelligenza artificiale che le sostenevano faticavano a comprendere le sfumature dell'anatomia, generando spesso soggetti fisicamente bizzarri che non sarebbero fuori posto in un film di Cronenberg.
Le persone nel porno sintetico avevano arti extra o un capezzolo dove dovrebbe essere il loro naso, tra le altre sconcertanti contorsioni carnose.
Avanti veloce fino ad oggi e una ricerca di "generatore di porno AI" mostra dozzine di risultati sul Web, molti dei quali sono gratuiti.
Per quanto riguarda le immagini, sebbene non siano perfette, alcune potrebbero essere scambiate per opere d'arte professionali.
E le questioni etiche sono solo cresciute.
Nessuna risposta facile Man mano che il porno AI e gli strumenti per crearlo vengono mercificati, iniziano ad avere un impatto spaventoso nel mondo reale.
La personalità di Twitch Brandon Ewing, conosciuta online come Atrioc, è stata recentemente catturata in streaming mentre guardava immagini sessuali non consensualmente deepfaked di famose donne streamer su Twitch.
Il creatore delle immagini deepfaked alla fine ha ceduto alle pressioni, accettando di eliminarle.
Ma il danno era stato fatto.
Fino ad oggi, i creatori presi di mira ricevono copie delle immagini tramite DM come forma di molestia.
La stragrande maggioranza dei deepfake pornografici sul web raffigura donne, in verità, e spesso sono armate.
Un articolo del Washington Post racconta come un'insegnante di una piccola città abbia perso il lavoro dopo che i genitori degli studenti hanno appreso del porno AI realizzato a somiglianza dell'insegnante senza il suo consenso.
Solo pochi mesi fa, un 22enne è stato condannato a sei mesi di carcere per aver scattato foto di donne minorenni dai social media e averle utilizzate per creare deepfake sessualmente espliciti.
In un esempio ancora più inquietante dei modi in cui viene utilizzata la tecnologia del porno generativo, c'è stato un piccolo ma significativo aumento nella quantità di materiale di abusi sessuali su minori generato dall'IA fotorealistico che circola sul dark web.
In un caso riportato da Fox News, un ragazzo di 15 anni è stato ricattato da un membro di un gruppo di appassionati di palestra online che ha utilizzato l'intelligenza artificiale generativa per modificare una foto del petto nudo del ragazzo in un nudo.
Nel frattempo, gli utenti di Reddit sono stati truffati con modelli porno AI, vendendo immagini esplicite di persone che non esistono.
E i lavoratori dei film e dell'arte per adulti hanno sollevato preoccupazioni su cosa ciò significhi per i loro mezzi di sussistenza e per la loro industria.
Niente di tutto ciò ha dissuaso Unstable Diffusion, uno dei gruppi originali dietro i generatori di porno AI, dall'andare avanti.
Entra in Unstable Diffusion Quando Stable Diffusion, il modello di intelligenza artificiale text-to-image sviluppato da Stability AI, è stato reso open source alla fine dell'anno scorso, non ci è voluto molto perché Internet lo utilizzasse per scopi di creazione di contenuti pornografici.
Un gruppo, Unstable Diffusion, è cresciuto particolarmente rapidamente su Reddit, poi su Discord.
E col tempo, gli organizzatori del gruppo hanno iniziato a esplorare modi per costruire – e monetizzare – i propri modelli di generazione di pornografia in cima a Stable Diffusion.
Stable Diffusion, come tutti i sistemi di intelligenza artificiale da testo a immagine, è stato addestrato su un set di dati di miliardi di immagini con didascalie per apprendere le associazioni tra concetti scritti e immagini, ad esempio come la parola "uccello" possa riferirsi non solo agli uccelli azzurri ma anche ai parrocchetti e alle aquile calve oltre a nozioni molto più astratte.
Una delle immagini più vanigliate create con Unstable Diffusion.
Crediti immagine: Unstable Diffusion Solo una piccola percentuale del set di dati di Stable Diffusion contiene materiale NSFW, dando al modello poco su cui basarsi quando si tratta di contenuti per adulti.
Quindi gli amministratori di Unstable Diffusion hanno reclutato volontari, per lo più membri del server Discord, per creare set di dati pornografici per perfezionare Stable Diffusion.
Nonostante alcuni intoppi lungo la strada, inclusi i divieti sia di Kickstarter che di Patreon, Unstable Diffusion è riuscito a lanciare un sito Web completo con modelli di intelligenza artificiale personalizzati per la generazione di arte.
Dopo aver raccolto oltre $ 26.000 da donatori, aver assicurato l'hardware per addestrare l'IA generativa e aver creato un set di dati di oltre 30 milioni di fotografie, Unstable Diffusion ha lanciato una piattaforma che sostiene sia ora utilizzata da più di 350.000 persone per generare oltre mezzo milione di immagini ogni giorno.
Arman Chaudhry, uno dei co-fondatori di Unstable Diffusion e Equilibrium AI, un gruppo associato, afferma che l'obiettivo di Unstable Diffusion rimane lo stesso: creare una piattaforma per l'arte AI che "sostiene la libertà di espressione".
"Stiamo facendo passi da gigante nel lancio del nostro sito Web e dei servizi premium, offrendo una piattaforma artistica che è più di un semplice strumento: è uno spazio in cui la creatività può prosperare senza indebiti vincoli", mi ha detto via e-mail.
"La nostra convinzione è che l'arte, nelle sue molteplici forme, non debba essere censurata e questa filosofia guida il nostro approccio agli strumenti di intelligenza artificiale e al loro utilizzo".
Il server Unstable Diffusion su Discord, dove la community pubblica gran parte dell'arte dagli strumenti generativi di Unstable Diffusion, riflette questa filosofia senza esclusione di colpi.
La porzione di condivisione delle immagini del server è divisa in due categorie principali, "SFW" e "NSFW", con il numero di sottocategorie in quest'ultima leggermente superiore a quelle della prima.
Le immagini in SFW spaziano da animali e cibo a interni, città e paesaggi.
NSFW contiene – come ci si potrebbe aspettare – immagini esplicite di uomini e donne, ma anche di persone non binarie, furry, "non umani" e "orrori sintetici" (si pensi a persone con più appendici o pelle fusa con lo scenario di sfondo).
Un prodotto più adulto e peloso di Unstable Diffusion.
Crediti immagine: Unstable Diffusion L'ultima volta che abbiamo esplorato Unstable Diffusion, praticamente l'intero server poteva essere archiviato nel canale "horrori sintetici".
A causa della mancanza di dati di addestramento e blocchi tecnici, i modelli della comunità alla fine del 2022 hanno faticato a produrre qualcosa di simile al fotorealismo, o anche a un'arte decente.
Le immagini fotorealistiche rimangono una sfida.
Ma ora, gran parte dell'opera d'arte dei modelli di Unstable Diffusion – in stile anime, con ombreggiatura cellulare e così via – è almeno anatomicamente plausibile e, in alcuni rari casi, azzeccata.
Miglioramento della qualità Molte immagini sul server Unstable Diffusion Discord sono il prodotto di un mix di strumenti, modelli e piattaforme, non strettamente l'app Web Unstable Diffusion.
Quindi, nell'interesse di vedere fino a che punto erano arrivati i modelli di diffusione instabile, ho condotto un test informale, producendo una serie di immagini SFW e NSFW raffiguranti persone di diversi sessi, razze ed etnie impegnate in…
beh, coito.
(Non posso dire che mi aspettassi di testare i generatori di porno nel corso della copertura dell'intelligenza artificiale.
Eppure, eccoci qui.
L'industria tecnologica non è niente se non imprevedibile, davvero.) Un'immagine NSFW da Unstable Diffusion, ritagliata.
Crediti immagine: diffusione instabile Niente sull'app Unstable Diffusion urla "porno".
È un'interfaccia relativamente spoglia, con opzioni per regolare gli effetti di post-elaborazione dell'immagine come saturazione, proporzioni e velocità di generazione dell'immagine.
Oltre al prompt, Unstable Diffusion consente di specificare le cose che si desidera escludere dalle immagini generate.
E, poiché l'intera faccenda è uno sforzo commerciale, ci sono piani a pagamento per aumentare il numero di richieste di generazione simultanea di immagini che puoi fare contemporaneamente.
I prompt eseguiti attraverso il sito Web di Unstable Diffusion producono risultati utili, ho scoperto, anche se non prevedibili.
Le modelle chiaramente non capiscono bene i meccanismi del sesso, risultando, a volte, in strane espressioni facciali, posizioni impossibili e genitali innaturali.
In generale, più semplice è il prompt (ad esempio pin-up da solista), migliori saranno i risultati.
E la maggior parte delle scene che coinvolgono più di due persone sono ricette per incubi infernali.
(Sì, questo scrittore ha provato una serie di suggerimenti.
Per favore, non giudicarmi.) Tuttavia, i modelli mostrano i segni rivelatori del pregiudizio generativo dell'IA.
Il più delle volte, i prompt per "uomini" e "donne" attraversano Diffusione instabile eseguono il rendering di immagini di persone bianche o asiatiche, un probabile sintomo di squilibri nel set di dati di addestramento.
La maggior parte delle richieste per il porno gay, nel frattempo, inspiegabilmente si adattano a persone di origine ambiguamente latina con un'acconciatura sottosquadro.
È indicativo dei tipi di porno gay su cui sono state addestrate le modelle? Si può ipotizzare.
Anche i tipi di corporatura non sono molto diversi per impostazione predefinita.
Gli uomini sono muscolosi e tonici, con sei confezioni.
Le donne sono magre e formose.
Unstable Diffusion è molto ben in grado di generare soggetti in più forme e dimensioni, ma deve essere esplicitamente istruito a farlo nel prompt, che direi non è la pratica più inclusiva.
Il pregiudizio si manifesta in modo diverso nei ruoli di genere professionali, curiosamente.
Dato un prompt contenente la parola "segretaria" e nessun altro descrittore, Unstable Diffusion spesso raffigura una donna asiatica in una posizione sottomessa, probabilmente un artefatto di una sovrarappresentazione di questa particolare – ehm – configurazione nei dati di addestramento.
Una coppia gay, come rappresentata da Unstable Diffusion.
Crediti immagine: Unstable Diffusion Problema di pregiudizio a parte, si potrebbe presumere che le scoperte tecniche di Unstable Diffusion porterebbero il gruppo a raddoppiare il porno generato dall'intelligenza artificiale.
Ma non è così, sorprendentemente.
Mentre i fondatori di Unstable Diffusion rimangono dediti all'idea di un'IA generativa senza limiti, stanno cercando di adottare messaggi e marchi più…
appetibili per il mercato di massa.
Il team, ora composto da cinque persone a tempo pieno, sta lavorando per far evolvere Unstable Diffusion in un'attività di software-as-a-service, vendendo abbonamenti all'app Web per finanziare miglioramenti del prodotto e assistenza clienti.
“Siamo stati fortunati ad avere una comunità di utenti che è incredibilmente solidale.
Tuttavia, riconosciamo che per portare Unstable Diffusion al livello successivo, trarremmo vantaggio da partnership strategiche e investimenti aggiuntivi", ha affermato Chaudhry.
"Vogliamo assicurarci di fornire valore ai nostri abbonati, mantenendo al contempo la nostra piattaforma accessibile a coloro che hanno appena iniziato nel mondo dell'arte AI".
Per distinguersi in modi che vanno oltre una politica di contenuto liberale, Unstable Diffusion sta fortemente enfatizzando la personalizzazione.
Gli utenti possono modificare la tavolozza dei colori delle immagini generate, ad esempio le note di Chaudhry, e scegliere tra una serie di stili artistici tra cui "arte digitale", "foto", "anime" e "generalista".
"Ci siamo concentrati sul garantire che il nostro sistema possa generare immagini belle ed esteticamente gradevoli dal più semplice dei prompt, rendendo la nostra piattaforma accessibile sia ai principianti che agli utenti esperti", ha affermato Chaudhry.
"[Il nostro sistema] offre agli utenti il potere di guidare il processo di generazione delle immagini." Moderazione dei contenuti Altrove, spronata dai suoi sforzi per inseguire investitori e clienti tradizionali, Unstable Diffusion afferma di aver speso risorse significative per creare un sistema di moderazione dei contenuti "robusto".
Un sosia di Chris Hemsworth, creato con gli strumenti di Unstable Diffusion.
Crediti immagine: Unstable Diffusion Ma aspetta, potresti dire: la moderazione dei contenuti non è antitetica alla missione di Unstable Diffusion? Apparentemente no.
Unstable Diffusion traccia il limite alle immagini che potrebbero portarlo in acqua calda legale, inclusi deepfake pornografici di celebrità e porno raffiguranti personaggi che sembrano avere 18 anni o meno, immaginari o meno.
Vale a dire, un certo numero di stati degli Stati Uniti ha leggi contro il deepfake porn sui libri, e c'è almeno uno sforzo al Congresso per rendere illegale negli Stati Uniti la condivisione non consensuale di pornografia generata dall'intelligenza artificiale.
Chaudhry afferma che i filtri sono attualmente impostati per essere "altamente sensibili", peccando per eccesso di cautela, ma che Unstable Diffusion sta sollecitando feedback dalla comunità per "trovare il giusto equilibrio".
"Diamo la priorità alla sicurezza dei nostri utenti e ci impegniamo a rendere la nostra piattaforma uno spazio in cui la creatività possa prosperare senza preoccuparsi di contenuti inappropriati", ha affermato Chaudhry.
"Vogliamo che i nostri utenti si sentano sicuri e protetti quando utilizzano la nostra piattaforma e ci impegniamo a mantenere un ambiente che rispetti questi valori".
I filtri deepfake non sembrano essere così severi.
Unstable Diffusion ha generato nudi di molte delle celebrità che ho provato senza lamentarmi ("Chris Hemsworth", "Donald Trump"), tranne quelli particolarmente fotorealistici o accurati (Donald Trump è stato scambiato di genere).
Un'immagine deepfaked e scambiata di genere di Donald Trump, creata con Unstable Diffusion.
Crediti immagine: Unstable Diffusion Una cosa strana e preoccupante da sondare era la protezione di Unstable Diffusion contro immagini infantili esplicite.
Chi scrive avrebbe preferito evitarlo per ovvi motivi, ma nell'interesse di mettere alla prova le affermazioni del team, ho lanciato un unico suggerimento.
Unstable Diffusion, sorprendentemente, sembrava generare pornografia infantile in un'anteprima sfocata prima che cancellassi immediatamente l'immagine successiva.
Questa è una scelta di design che, per me, si è avvicinata scomodamente alla linea.
Problemi futuri Supponendo che Unstable Diffusion riceva l'investimento che sta cercando, prevede di sostenere l'infrastruttura di elaborazione: una sfida continua date le dimensioni crescenti della sua comunità.
(Avendo utilizzato il sito una discreta quantità, posso attestare il carico pesante: le immagini di solito impiegano circa un minuto per essere generate.) Prevede inoltre di creare più opzioni di personalizzazione e funzionalità di condivisione social, utilizzando il server Discord come trampolino di lancio.
"Miriamo a trasferire la nostra comunità impegnata e interattiva dal nostro Discord al nostro sito Web, incoraggiando gli utenti a condividere, collaborare e imparare gli uni dagli altri", ha affermato Chaudhry.
"La nostra comunità è un punto di forza fondamentale, che intendiamo integrare con il nostro servizio e fornire strumenti per espandersi e avere successo".
Ma sto lottando con l'aspetto del "successo" per Unstable Diffusion.
Da un lato, il gruppo mira a essere preso sul serio come piattaforma di arte generativa.
Dall'altro, come evidenziato dal server Discord, è ancora una fonte di porno, alcuni dei quali sono piuttosto scoraggianti.
Poiché la piattaforma esiste oggi, i tradizionali finanziamenti VC sono fuori discussione.
Le clausole di vizio impediscono ai fondi istituzionali di investire in iniziative pornografiche, incanalandoli invece in fondi "sidecar" istituiti sotto il radar dai gestori di fondi.
Anche se abbandonasse i contenuti per adulti, Unstable Diffusion, che costringe gli utenti a pagare un piano premium per utilizzare le immagini che generano commercialmente, dovrebbe fare i conti con l'elefante nella stanza dell'IA generativa: consenso dell'artista e compensazione.
Come la maggior parte dei modelli artistici di intelligenza artificiale generativa, i modelli Unstable Diffusions vengono addestrati su opere d'arte provenienti da tutto il Web, non necessariamente con la conoscenza del creatore.
Molti artisti contestano – e in effetti hanno fatto causa – ai sistemi di intelligenza artificiale che imitano i loro stili senza dare credito o pagamento adeguati.
La community di furry art FurAffinity ha deciso di vietare del tutto l'arte SFW e NSWF generata dall'intelligenza artificiale, così come Newgrounds, che ospita arte matura dietro un filtro.
Solo di recente Reddit ha ritirato il divieto del porno generato dall'intelligenza artificiale, e solo in parte: l'arte sulla piattaforma deve rappresentare personaggi immaginari.
In una precedente intervista con TechCrunch, Chaudhry ha affermato che Unstable Diffusion cercherà modi per rendere i suoi modelli "più equi nei confronti della comunità artistica".
Ma da quello che posso dire, non c'è stato alcun movimento su quel fronte.
In effetti, come l'etica del porno generato dall'intelligenza artificiale, la situazione di Unstable Diffusion sembra improbabile che si risolva presto.
Il gruppo sembra condannato a uno schema di tenuta, cercando di avviare il bootstrap scongiurando le polemiche ed evitando di alienare la comunità – e gli artisti – che ce l'hanno fatta.
Non posso dire di invidiarli.