Prečo táto aplikácia AI vyzlieka používateľky bez ich súhlasu?
Lensa chrlila hypersexualizované obrázky žien a zosvetľovala tóny pleti.
Ak je váš sociálny kanál momentálne zaplavený štylizovanými portrétmi, obviňujte to Objektív .
The štvorročný Aplikácia AI premení selfie na ilustrácie počnúc od 3,99 dolárov pre 50 obrázkov. Od predstavenia funkcie „magických avatarov“ v novembri zaznamenala aplikácia viac ako 17 miliónov stiahnutí.
Páčia sa všetkým ich portréty?
Rozhodne nie. Ženy si všimli znepokojivý trend: Aj keď nahrávajú nad plece strely do hlavy alebo požiadajte aplikáciu, aby ich zobrazila ako muži , dostanú hypersexualizovaný — alebo priamo pornografické — obrázky na oplátku.
Farební ľudia tiež oznámili, že aplikácia pozmenené ich vlastnosti, zosvetlenie tóny pleti a farby očí.
Ako väčšina problémov, v konečnom dôsledku sú na vine ľudia:
- Aplikácia využíva Stable Diffusion, model AI, ktorý generuje obrázky z textu.
- Stabilná difúzia je vytvorená pomocou LAION-5B, open-source dátovej sady, ktorá zbiera obrázky z celého internetu.
A čoho má internet veľa? Ponižujúce fotografie žien.
Ak je AI naozaj budúcnosť…
...musíme to napraviť. Lensa nie je sama, kto ťahá z temných kútov webu: Imagen od Googlu a DALL-E od OpenAI používajú podobné školenia .
To znamená, že AI by mohla byť predinštalovaná so všetkými ľudskými predsudkami, o ktorých sme dúfali, že odstráni.
Navyše to nie je prvýkrát, čo sme museli počítať sexizmus v AI. Správne, Siri a Alexa?