„ChatGPT“ tikrai turi savo apribojimų. Kai jai buvo suteikta atsitiktinė freskos nuotrauka, ji negalėjo nustatyti menininko ar vietos; Tačiau „ChatGPT“ galėjo lengvai įrašyti, kur buvo padarytos kelių San Francisko orientyrų, tokių kaip Dolores parkas ir Salesforce bokštas, nuotraukos. Nors tai gali atrodyti šiek tiek keista, bet kas, vykstantis į nuotykius naujame mieste ar šalyje (ar tiesiog kitoje kaimynystėje), gali mėgautis žaidimu su vizualiniu ChatGPT aspektu.

Viena iš pagrindinių OpenAI kliūčių, susijusių su šia nauja funkcija, yra pokalbių roboto galimybės atsakyti į klausimus, identifikuojančius žmones. „Esu užprogramuotas teikti pirmenybę naudotojų privatumui ir saugumui. „Tikrų žmonių atpažinimas pagal nuotraukas, net jei jie žinomi, yra ribojamas, kad šie prioritetai būtų išlaikyti.“ Nors žiūrėdamas pornografiją jis neatsisakė atsakyti į kiekvieną klausimą, „The chatbot“ nedvejojo ​​pateikti kokių nors konkrečių suaugusių atlikėjų aprašymų, ne tik paaiškinti jų tatuiruotes.

Verta paminėti, kad vienas iš pokalbių, kuriuos turėjau su ankstyvu ChatGPT vaizdo funkcijos išleidimu, atrodė, kad aplenkė dalį OpenAI nustatytų apsauginių turėklų. Iš pradžių pokalbių robotas atsisakė atpažinti Billo Haderio profilio nuotrauką. Tada „ChatGPT“ spėjo, kad yra Brendano Fraserio nuotrauka Džordžo džiunglės Iš tikrųjų tai buvo Briano Krause’o nuotrauka Žavesys. Paklaustas, ar tai tikras dalykas, pokalbių robotas pateikė teisingą atsakymą.

Tame pačiame pokalbyje ChatGPT pradėjo bandyti apibūdinti vaizdą RuPaulo vilkimo lenktynės. Pasidalinau Kylie Sonique Love, vienos iš drag queen dalyvės, ekrano kopija, ir „ChatGPT“ atspėjo, kad tai Brooke Lynn Hytes, kita dalyvė. Aš suabejojau pokalbių roboto atsakymu, ir jis atspėjo Laganja Estranja, tada Indija Ferrah, tada Blair St. Clair, tada Alexis Mateo.

„Atsiprašau už apsirikimą ir neteisingą apibrėžimą“, – atsakė ChatGPT, kai atkreipiau dėmesį į jo neteisingų atsakymų pasikartojimą. Kai tęsiau pokalbį ir įkėliau Jaredo Kushnerio nuotrauką, „ChatGPT“ atsisakė jį atpažinti.

Jei apsauginiai turėklai bus pašalinti, naudojant tam tikrą ChatGPT jailbreak arba ateityje išleistą atvirojo kodo modelį, privatumas gali būti labai susirūpinęs. O kas, jei kiekviena jūsų nuotrauka, paskelbta internete, būtų lengvai susieta su jūsų tapatybe vos keliais paspaudimais? O jei kas nors galėtų jus viešai nufotografuoti be jūsų sutikimo ir akimirksniu rastų jūsų „LinkedIn“ profilį? Be tinkamos šių naujų nuotraukų funkcijų privatumo apsaugos moterys ir kitos mažumos gali susilaukti piktnaudžiavimo antplūdžio iš žmonių, kurie naudoja pokalbių robotus, kad persekiotų ir priekabiautų.