Instagram har tatt et nytt skritt i strategien sin for å håndtere fremveksten av AI-genererte influencere . Meta-plattformen har annonsert en betydelig endring i reglene sine: fra nå av må kontoer med AI-skapte personligheter tydelig identifisere seg, ellers risikerer de å miste synligheten i appen.
Tiltaket kommer etter måneder med testing og klager fra brukere som sa at de følte seg lurt da de oppdaget at en tilsynelatende menneskelig profil faktisk var en syntetisk figur. Instagram vil ikke forby denne typen kontoer, men de ønsker at de skal være tydelig skillebare fra profilene til ekte mennesker.
Fra «AI-skaper» til «AI-generert profil»
Den mest synlige endringen er erstatningen av den gamle etiketten «AI-skaper» med den nye betegnelsen «AI-generert profil ». Frem til nå har etiketten fungert som en samlebetegnelse for kontoer som bruker AI-generert innhold, men den var tvetydig: den kunne referere til en menneskelig skaper som bruker AI som støtte, eller til en fiktiv avatar som ikke eksisterer i virkeligheten.
Med den nye formuleringen ønsker Instagram å gjøre det klart at merkelappen er reservert for profiler der hovedpersonen er en person som er laget utelukkende med AI . Med andre ord handler det ikke bare om at innholdet er retusjert eller automatisk generert, men om at profilens primære identitet er kunstig. Appen beskriver selv merkelappen som en spesifikk identifikator for kontoer som «har en AI-generert persona».
Kontoer som allerede hadde den gamle beskrivelsen aktivert, vil automatisk se den konvertert til en «AI-generert profil». Derfra kan kontoadministratorer gjennomgå om den nye beskrivelsen virkelig gjenspeiler aktiviteten deres , og bestemme om de vil beholde den eller fjerne den hvis de føler at den ikke lenger samsvarer med innholdet deres.
I profiler som bruker den, vil etiketten vises både i kontooverskriften og ved siden av innleggene, så lenge innholdet ikke har et annet merke som indikerer at det er opprettet eller endret av kunstig intelligens.
Nå straff for avatarer som ikke identifiserer seg selv
Det virkelig delikate aspektet ved denne endringen ligger i konsekvensene for de som ikke tagger riktig. Instagram skiller mellom de som aktiverer merkevaren sin frivillig og kontoer som burde vise den, men ikke gjør det . I det første tilfellet forsikrer selskapet at det ikke vil bli noen endringer i profilens rekkevidde: kontoer som identifiserer seg transparent vil fortsette å vises normalt i anbefalinger.
Men når plattformen oppdager en profil med en syntetisk persona som ikke bruker merkelappen, vil den direkte straffe synligheten. Disse kontoene vil ikke lenger være kvalifisert til å vises i offentlige oppdagelsesseksjoner , for eksempel Utforsk-fanen, Anbefalte filmsekvenser eller forslag til brukere som ennå ikke følger dem.
Instagram har ikke spesifisert hvor stor prosentandel av rekkevidden som vil bli redusert eller hvor lenge, men de gjør det klart at det er en slags «synlighetsstraff»: kontoen eksisterer fortsatt, kan fortsette å legge ut innlegg og nåværende følgere vil fortsette å se innholdet, men den mister evnen til å vokse gjennom anbefalingsalgoritmen.
Plattformen vil bruke sine egne deteksjonssystemer for å identifisere disse tilfellene, ved å kombinere automatiserte verktøy og interne signaler som indikerer at en konto bruker en AI-generert persona uten å avsløre den. Når dette skjer, vil den ansvarlige parten motta et varsel om at profilen deres ikke lenger er kvalifisert til å bli anbefalt til andre brukere.
Slik aktiverer du taggen og hvilke alternativer skaperne har
For de som administrerer denne typen kontoer, vil identifiseringsprosessen være relativt enkel. Fra profilredigeringsskjermen kan oppretteren aktivere alternativet «AI-generert profil» . Når dette er valgt, vil etiketten være synlig på profilen og vil også gjelde for innleggene deres, med mindre disse innleggene allerede viser en annen spesifikk etikett angående innhold generert eller modifisert med kunstig intelligens.
Hvis Instagram flagger en konto som mistenkt for å bruke en syntetisk avatar uten å gjenkjenne den, har skaperen to måter å gjenopprette sin tilstedeværelse i anbefalinger. Den første er den mest direkte: legg til den tilhørende etiketten , erkjenn at det er en kunstig identitet, og angi dette på profilen. Når det er gjort, kan systemet gjenopprette deres kvalifisering til å vises i Utforsk og foreslåtte filmsekvenser.
Det andre alternativet er å anke avgjørelsen. Meta erkjenner at deteksjonssystemene deres «ikke alltid er perfekte» og at falske positiver kan forekomme, så de tilbyr en ankemekanisme i «Kontostatus» -delen av innstillingene. Hvis skaperen mener at plattformen har gjort en feil – for eksempel fordi profilen representerer en ekte person som bare bruker AI til å redigere innhold – kan de be om en gjennomgang.
Hvis Instagram godtar anken, vil både profilen og innleggene igjen være kvalifisert til å vises i det sosiale nettverkets generelle anbefalinger. På denne måten forsøker selskapet å balansere bruken av automatisering med en viss grad av menneskelig tilsyn for å korrigere feil når de urimelig setter en skaper i en ulempe.
Hvilke kontoer må merkes og hvilke som skal ekskluderes
Et av hovedaspektene ved den nye policyen er forskjellen mellom å bruke AI som et verktøy og å bygge en komplett identitet rundt det. Etiketten «AI-generert profil» er ikke ment for en hvilken som helst bruker som av og til bruker kunstig intelligens, enten det er for å retusjere bilder, generere støttebilder, korrigere tekst eller designe grafikk.
I disse tilfellene anser Instagram profilens subjekt for å være en ekte person, selv om de bruker AI i sin kreative prosess. Verken fotografer som bruker avanserte filtre, innholdsskapere som genererer med generative modeller, eller merkevarer som tester automatiserte effekter, trenger å merke kontoen sin med den nye identifikatoren hvis den sentrale figuren forblir menneskelig.
Fokuset er på såkalte virtuelle influencere, fiktive karakterer og hyperrealistiske avatarer presentert som om de var ekte mennesker. Disse profilene viser et syntetisk ansikt, et oppdiktet liv og i mange tilfeller kommersielle samarbeid med ekte merkevarer, uten at det tydelig fremgår at det ikke er et fysisk individ bak dem.
Instagram insisterer på at kontoer som frivillig bruker merkelappen ikke vil oppleve at rekkevidden deres påvirkes. Det offisielle målet er å øke åpenheten, ikke å straffe de som velger å gjøre det klart at hovedpersonen deres er en digital karakter. Der de vil opptre bestemt, er i tilfeller der det er et forsøk på å utgi seg for å være menneske til tross for at de bruker en AI-generert identitet.
Dette skillet trekker en linje mellom kunstig generert innhold og simulering av menneskelige identiteter. Plattformen aksepterer AI som en kreativ ressurs, men krever at den ikke brukes til å villede brukeren om hvem – eller hva – som egentlig står bak en profil.
Et globalt problem med innvirkning også på Europa
Innstrammingen av regelverket kommer etter en periode der internasjonale medier og spesialister på influencer-markedsføring har dokumentert den raske ekspansjonen av syntetiske profiler . Undersøkelser som de fra The Guardian og The New York Times har identifisert nettverk av AI-genererte «influencere» som markedsfører apper, velværemerker eller kosttilskudd, og noen ganger presenterer seg som helsepersonell når de ikke er det.
I Europa er dette fenomenet spesielt bekymringsfullt på grunn av dets kompatibilitet med reklameforskrifter og den kommende europeiske AI-forordningen , som vektlegger åpenhet når man samhandler med automatiserte systemer. Selv om Instagrams tiltak ikke har blitt presentert som et direkte svar på europeisk lovgivning, er det i tråd med kontinentets regulatoriske trend, som presser på for klare skillelinjer mellom kunstig generert innhold og identiteter.
I markeder som Spania, hvor influencere spiller en stadig viktigere rolle i markedsføringskampanjer og merkevaresamarbeid, reiser spredningen av syntetiske avatarer spørsmål om publikums tillit. Den nye obligatoriske merkingen ligner, om enn med noen forskjeller, på de sponsede innholdsmerkingene som reklamebransjen måtte ta i bruk for mange år siden for å overholde forbrukervernmyndigheter og selvregulerende koder.
For europeiske og spanske merkevarer som allerede jobber med AI-genererte personaer, introduserer endringen en klar kostnad: Hvis profilen ikke identifiseres som AI-generert, vil dens evne til å nå nye brukere gjennom algoritmen være begrenset. Derfra må hver annonsør bestemme seg for om det er verdt å opprettholde utseendet til en «ekte person», eller om de foretrekker å prioritere åpenhet for å unngå å miste rekkevidde.
En balanse mellom åpenhet, forretningsdrift og tillit.
Med dette trekket prøver Instagram å finne en kompleks sirkel. På den ene siden har Meta lenge promotert kunstig intelligens som en mulighet for skapere og annonsører, og tilbyr verktøy for å generere bilder, forbedre tekst og eksperimentere med digitale avatarer. På den andre siden innrømmer de at forvirringen rundt hvem som er mennesker og hvem som ikke er det, truer tilliten til selve feeden, som er grunnlaget for annonsevirksomheten deres.
Det sosiale nettverket sletter ikke AI-genererte profiler eller forbyr monetisering av dem; det krever bare at de identifiserer seg hvis de ønsker å konkurrere på like vilkår i anbefalingsalgoritmen. Det er en måte å si at syntetiske avatarer er velkomne, så lenge de ikke presenterer seg som noe de ikke er.
Flere spørsmål gjenstår: hva vil tempoet i implementeringen av disse forskriftene være, hvordan vil byråer og merkevarer som har investert tungt i virtuelle influencere reagere , og om andre plattformer vil følge etter? Det gjenstår også å se om tiltaket vil være nok til å dempe følelsen av metning med AI-generert innhold som mange brukere uttrykker, eller om det bare vil flytte noe av problemet til andre, mindre regulerte områder.
Uansett markerer den nye merkingen et vendepunkt i hvordan Instagram håndterer kunstig intelligens anvendt på identiteter. Det sosiale nettverket antar at syntetiske tegn er kommet for å bli, men setter en grunnleggende betingelse: hvis en profil inneholder en person laget av AI, har fellesskapet rett til å vite det uten å måtte lese den lille skriften.