Šį mėnesį „ChatGpt“ pristatė naują vaizdo generatorių kaip savo 4O modelio dalį, kuri daug geriau generuoja tekstą viduje.

Žmonės jau naudoja tai, kad generuotų netikrus restoranų kvitus, galbūt prideda dar vieną įrankį prie jau išsamų AI giliavandenių, kuriuos naudoja sukčiai, įrankių rinkinys.

Produktyvus socialinės žiniasklaidos plakatas ir VC Deedy Das paskelbė „X“ suklastoto kvito nuotrauką, skirtą (tikram) San Fransisko kepsniui, kuris, jo teigimu, buvo sukurtas su 4O.

Kiti sugebėjo atkartoti panašius rezultatus, įskaitant vieną su maisto ar gėrimų dėmėmis, kad jis atrodytų dar autentiškesnis:

Labiausiai atrodantis „TechCrunch“ pavyzdys iš tikrųjų buvo iš Prancūzijos, kur „LinkedIn“ vartotojas paskelbė suspaustą AI sukurtą vietinio restoranų tinklo kvitą:

„TechCrunch“ išbandė 4o ir taip pat sugebėjo sugeneruoti netikrą „Applebee“ kvitą San Fransiske:

Bet mūsų bandyme buvo keletas negyvų dovanų, kad jis buvo suklastotas. Vienam iš jų bendra suma naudoja kablelį, o ne laikotarpį. Kita vertus, matematika nesudaro. LLM vis dar stengiasi atlikti pagrindinę matematiką, todėl tai ypač nestebina.

Tačiau sukčiavimui nebūtų sunku greitai ištaisyti keletą skaičių naudojant bet kurią nuotraukų redagavimo programinę įrangą arba, galbūt, tikslesnius raginimus.

Akivaizdu, kad dėl to, kad suklastotas kvitas yra labai lengva, suteikia didžiules sukčiavimo galimybes. Nebūtų sunku įsivaizduoti, kad tokio pobūdžio technologijos naudoja blogi veikėjai, kad gautų „kompensuotą“ už visiškai netikras išlaidas.

„Openai“ atstovė spaudai Taya Christianson sakė „TechCrunch“, kad visi jo vaizdai apima metaduomenis, nurodančius, kad juos sukūrė „ChatGpt“. Christiansonas pridūrė, kad Openai „imasi veiksmų“, kai vartotojai pažeidžia jo naudojimo politiką ir kad tai „visada mokosi“ iš realaus pasaulio naudojimo ir atsiliepimų.

Tada „TechCrunch“ paklausė, kodėl „ChatGpt“ leidžia žmonėms visų pirma sugeneruoti padirbtus kvitus ir ar tai atitinka „Openai“ naudojimo politiką (kuri uždraudžia sukčiavimą).

Christiansonas atsakė, kad „Openai“ tikslas yra suteikti vartotojams kuo daugiau kūrybinės laisvės “ir kad netikri AI kvitai gali būti naudojami ne sukčiavimo situacijose, tokiose kaip„ mokyti žmones apie finansinį raštingumą “kartu su originalių meno ir produktų skelbimų kūrimu.