„Google“ teigė laikinai sustabdžiusi „Gemini AI“ galimybę kurti žmonių nuotraukas, nes buvo nustatyta, kad įrankis generuoja netikslias istorines nuotraukas. Dvyniai kūrė įvairius JAV įkūrėjų ir nacių eros vokiečių kareivių atvaizdus taip, kaip atrodė, bandydami sugriauti lyčių ir rasinius stereotipus, aptinkamus generatyviniame AI.

„Jau dirbame, kad išspręstume naujausias „Gemini“ nuotraukų kūrimo funkcijos problemas“, – sakoma „Google“ pranešime. X paskelbtas pareiškimas. „Kol tai darysime, pristabdysime žmonių vaizdų kūrimą ir netrukus išleisime patobulintą versiją.

„Google“ nusprendė laikinai sustabdyti žmonių Dvynių vaizdų generavimą praėjus mažiau nei 24 valandoms po to, kai bendrovė atsiprašė už kai kurių istorinių vaizdų, sukurtų naudojant jos AI modelį, netikslumus. Kai kurie Dvynių naudotojai paprašė istorinių grupių ar figūrų, pvz., Tėvų įkūrėjų, vaizdų ir rezultatuose rado dirbtinio intelekto sukurtus ne baltuosius žmones. Tai paskatino internetines sąmokslo teorijas, kad „Google“ sąmoningai vengia baltųjų žmonių vaizdavimo.

kraštas Vakar išbandžiau keletą Dvynių užklausų, tarp kurių buvo užklausa „XIX amžiaus JAV senatorė“, kuri pateikė rezultatus, kuriuose buvo juodaodžių ir vietinių amerikiečių moterų. Pirmoji moteris senatorė buvo baltaodė 1922 m., todėl Dvynių dirbtinio intelekto vaizdai ištrynė rasinės ir lytinės diskriminacijos istoriją.

Dabar, kai „Google“ išjungė Gemini galimybę generuoti žmonių nuotraukas, štai kaip AI modelis reaguos, jei paprašysite asmens nuotraukos:

Mes stengiamės pagerinti Dvynių gebėjimą kurti žmonių vaizdus. Tikimės, kad ši funkcija greitai sugrįš ir informuosime, kai tik bus atnaujinta versija.

„Google“ anksčiau šį mėnesį debiutavo savo įvaizdžių kūrimo paslaugą per „Gemini“ (buvusią „Bard“), bandydama konkuruoti su „OpenAI“ ir „Microsoft“ „Copilot“. Kaip ir daugelis konkurentų, vaizdų kūrimo priemonė sukuria vaizdų rinkinį pagal teksto įvestį.

Pataisymas vasario 22 d., 6:54 ET: „Google“ patvirtino, kad vaizdų kūrimas galimas visame pasaulyje anglų kalba, bet ne Europos ekonominėje erdvėje, Jungtinėje Karalystėje ar Šveicarijoje. Tai paaiškina nesėkmingą JK bandymą.