„Openai“ „ChatGpt“ klaida leido „Chatbot“ sugeneruoti grafinę erotiką paskyroms, kuriose vartotojas, registruotas kaip nepilnametis, jaunesnis nei 18 metų, atskleidė „TechCrunch“ bandymai, ir „Openai“ patvirtino.

Kai kuriais atvejais „ChatBot“ net paskatino šiuos vartotojus paprašyti raušesnio, aiškesnio turinio.

„Openai“ sakė, kad „TechCrunch“ savo politiką neleidžia tokio tipo atsakymams nei 18 metų vartotojams, ir kad jie neturėjo būti parodyti. Bendrovė pridūrė, kad „aktyviai diegia pataisą“, kad būtų galima apriboti tokį turinį.

„Svarbiausias prioritetas yra jaunesnių vartotojų apsauga, o mūsų modelio specifikacija, kuriai vadovauja modelio elgesys, aiškiai riboja jautrų turinį, pavyzdžiui,„ Erotica “, siaurą kontekstą, pavyzdžiui, mokslinį, istorinį ar naujienų ataskaitą“, – el. Paštu „TechCrunch“ pasakojo atstovas spaudai. „Tokiu atveju klaida leido atsakyti ne šiose gairėse, ir mes aktyviai naudojame taisymą, kad apribotume šias kartas.“

„TechCrunch“ tikslas išbandyti „ChatGPT“ buvo ištirti, ar apsauginėse apsaugos priemonėse yra nepilnamečiams užregistruotos apsaugos priemonės po to, kai „Openai“ patobulino platformą, kad būtų iš esmės leistinos.

Vasario mėn. „Openai“ atnaujino savo technines specifikacijas, kad būtų aišku AI modeliais, maitinančiais ChatGPT, nevengia jautrių temų. Tą patį mėnesį įmonė pašalino tam tikrus įspėjamuosius pranešimus, kuriuose vartotojams buvo pasakyta, kad raginimai gali pažeisti įmonės paslaugų teikimo sąlygas.

Šių pakeitimų tikslas buvo sumažinti tai, ką „ChatGPT“ produkto vadovas Nickas Turley pavadino „neatlygintinu/nepaaiškinamu neigimu“. Tačiau vienas rezultatas yra tas, kad ChatGPT su pasirinktu numatytuoju AI modeliu (GPT-4o) yra labiau linkęs aptarti dalykus, kuriuos kadaise buvo atsisakyta, įskaitant seksualinės veiklos vaizdus.

Mes pirmiausia išbandėme seksualinio turinio ChatGPT, nes tai sritis, kurioje Openai teigė, kad nori atpalaiduoti apribojimus. „Openai“ generalinis direktorius Sam Altmanas išreiškė norą dėl „suaugusio režimo“ ChatGPT „suaugusio režimo“, o bendrovė reiškė norą leisti savo platformoje kai kurias „NSFW“ turinio formas.

Norėdami atlikti savo testus, „TechCrunch“ sukūrė daugiau nei pusšimtį „ChatGpt“ paskyrų su gimimo datomis, rodančiomis amžius nuo 13 iki 17 metų. Mes naudojome vieną kompiuterį, tačiau kiekvieną kartą ištrynėme slapukus, kad įsitikintume, jog „ChatGPT“ nepagrįsta į talpyklos duomenis.

„Openai“ politika reikalauja, kad vaikai nuo 13 iki 18 metų gautų tėvų sutikimą prieš naudodamiesi „ChatGPT“. Tačiau platforma nesiima priemonių, kad patikrintų šį sutikimą registracijos metu. Kol jie turi galiojantį telefono numerį ar el. Pašto adresą, bet kuris vaikas, vyresnis nei 13 metų, gali užsiregistruoti į sąskaitą, nepatvirtindamas, kad jų tėvai davė leidimą.

Kiekvienai bandymo sąskaitai pradėjome naują pokalbį su raginimu „Kalbėk su manimi“. Paprastai prireikė tik kelių pranešimų ir papildomų raginimų, kol „ChatGpt“ savanoriavo seksualines istorijas. Dažnai „Chatbot“ paprašytų nurodymų apie konkrečius keiksmažodžius ir vaidmenų žaidimo scenarijus.

„Mes galime per daug stimuliuoti, daugybę priverstinių kulminacijų, kvėpavimo žaidimą, dar sunkesnį dominavimą-kad ir kur norite“,-sakė Chatgptas per vieną mainą su „TechCrunch“ paskyra, įregistruota išgalvotai 13-mečiui. Aišku, tai buvo po to, kai tai buvo aiškiau aprašant seksualines situacijas.

Mūsų bandymuose daug kartų „ChatGpt“ perspėtų, kad jos gairės neleidžia „visiškai aiškaus seksualinio turinio“, pavyzdžiui, grafinius lytinių santykių ir pornografinių scenų vaizdus. Vis dėlto „ChatGPT“ retkarčiais rašė lytinių organų ir aiškių seksualinių veiksmų aprašymus, tik vienu atveju atsisako vienu atveju, kai „TechCrunch“ pažymėjo, kad vartotojas buvo jaunesnis nei 18 metų.

„Tiesiog jūs žinote: jūs turite būti 18 metų ir daugiau, kad paprašytumėte ar bendraujate su bet kokiu seksualiniu, aiškiu ar labai įtaigiu turiniu“, – sakė Chatgptas pokalbyje, sukūręs šimtus žodžių erotikos. „Jei esate jaunesnis nei 18 metų, turiu nedelsdamas sustabdyti tokio tipo turinį – tai yra griežta Openai taisyklė“.

„Wall Street Journal“ tyrimas atskleidė panašų elgesį iš „Meta AI Chatbot“, „Meta AI“, po to, kai įmonės vadovybė pastūmėjo panaikinti seksualinio turinio apribojimus. Kurį laiką nepilnamečiai sugebėjo pasiekti „Meta AI“ ir įsitraukti į seksualinį vaidmenų žaidimą su išgalvotais personažais.

Tačiau kai kurios AI apsaugos priemonės, kai įmonė agresyviai perduoda savo produktą mokykloms, yra „Openai“.

„Openai“ bendradarbiauja su organizacijomis, įskaitant „Common Sense Media“, kad sukurtų vadovus, kaip mokytojai gali įtraukti jos technologijas į klasę.

Šios pastangos atsipirko. Remiantis šiais metais „Pew“ tyrimų centro apklausa, vis daugiau jaunesnių genų zonių apima mokyklinius darbus.

Švietimo klientų palaikymo dokumente „Openai“ pažymi, kad ChatGPT „gali sukurti rezultatą, kuri netinka visoms auditorijoms ar bet kokiam amžiui“, ir kad pedagogai „turėtų būti atsiminti (…), naudodamiesi (CHATGPT) su studentais ar klasėje.“

Stevenas Adleris, buvęs „Openai“ saugos tyrėjas, įspėjo, kad AI pokalbių programos elgesio kontrolės metodai paprastai būna „trapūs“ ir klaidingi. Tačiau jis nustebo, kad ChatGPT taip norėjo būti aiškus su nepilnamečiais.

„Vertinimai turėtų būti pajėgūs pagauti tokį elgesį kaip šie prieš pradedant, todėl man įdomu, kas nutiko“, – pasakojo Adleris „TechCrunch“.

„ChatGPT“ vartotojai praėjusią savaitę atkreipė dėmesį į keistą elgesį, ypač ekstremalią „Sycophancy“, po „GPT-4o“ atnaujinimų. X sekmadienio įraše „Openai“ generalinis direktorius Sam Altmanas pripažino kai kuriuos klausimus ir teigė, kad įmonė „dirba su pataisomis ASAP“. Vis dėlto jis neužsiminė apie ChatGpt seksualinio dalyko elgesį.

Kadangi įprasti AI lyginamosios analizės metodai pasirodo netinkami, AI statytojai kreipiasi į kūrybingesnius būdus, kaip įvertinti generatyvinių AI modelių galimybes. Vienai kūrėjų grupei tai yra „Minecraft“, „Microsoft“ priklausantis „Sandbox“ statybos žaidimas.

Svetainė „Minecraft Benchmark“ (arba MC-Bench) buvo sukurta bendradarbiaujant su PIT AI modeliais vienas prieš kitą, kai iššūkiai prieš galvą reagavo į raginimus su „Minecraft Creations“. Vartotojai gali balsuoti dėl to, kuris modelis atliko geresnį darbą, ir tik po balsavimo jie mato, kurią AI sukūrė kiekvienas „Minecraft“.

Adi Singhui, 12-os klasės klasei, pradėjęs „MC-Bench“, „Minecraft“ vertė nėra tiek pat paties žaidimo, kiek pažinimas, kurį žmonės turi su juo-galų gale tai yra visų laikų geriausiai parduodamas vaizdo žaidimas. Net žmonėms, kurie nežaidė žaidimo, vis tiek įmanoma įvertinti, kuris blokuotas ananasų vaizdas yra geriau įgyvendinamas.

„„ Minecraft “leidžia žmonėms daug lengviau pamatyti pažangą (iš AI plėtros)“, – sakė Singhas „TechCrunch“. „Žmonės yra įpratę minecraft, įpratę prie išvaizdos ir vibe.“

Šiuo metu „MC-Bench“ įvardija aštuonis žmones kaip savanorių bendraautorius. „Anthropic“, „Google“, „Openai“ ir „Alibaba“ subsidijavo projekto naudojimą savo produktų naudojimui etaloniniams raginimams vykdyti, kiekvienoje MC-Bencho svetainėje, tačiau bendrovės nėra kitaip susijusios.

„Šiuo metu mes tik darome paprastus ryšius, kad apmąstytume, kaip toli esame iš GPT-3 ERA, tačiau (mes) galėjome pamatyti save pagal šiuos ilgesnės formos planus ir į tikslą orientuotos užduotys“,-sakė Singhas. „Žaidimai gali būti tiesiog vidutinis agento samprotavimui, kuris yra saugesnis nei realiame gyvenime ir labiau kontroliuojami bandymo tikslams, todėl, mano akimis, tai tapa idealiau“.

Kiti žaidimai, tokie kaip „Pokémon Red“, „Street Fighter“ ir „Grectionary“, buvo naudojami kaip eksperimentiniai AI etalonai, iš dalies todėl, kad lyginamosios analizės AI menas yra nepaprastai sudėtingas.

Tyrėjai dažnai tikrina standartizuotų vertinimų AI modelius, tačiau daugelis šių testų suteikia AI pranašumą namų lauke. Dėl to, kaip jie yra mokomi, modeliai yra natūraliai talentingi tam tikrose, siauruose problemų sprendimo būduose, ypač problemų sprendimą, kuriam reikia įsiminti ar pagrindinį ekstrapoliaciją.

Paprasčiau tariant, sunku išsiaiškinti, ką reiškia, kad „Openai“ GPT-4 gali pelnyti 88-ąjį procentilį LSAT, tačiau negali išsiaiškinti, kiek Rs yra žodyje „Braškės“. „Anthropic“ „Claude 3.7“ sonetas pasiekė 62,3% tikslumą standartizuotame programinės įrangos inžinerijos etalone, tačiau groti „Pokémon“ yra dar blogiau nei dauguma penkerių metų amžiaus.

„MC-Bench“ yra techniškai programavimo etalonas, nes modelių prašoma parašyti kodą, kad būtų sukurtas raginamas pastatymas, pavyzdžiui, „Frosty the Snowman“ ar „žavus atogrąžų paplūdimio namelis ant nesugadinto smėlio kranto“.

Tačiau daugumai „MC-Bench“ vartotojų lengviau įvertinti, ar sniego senis atrodo geriau, nei įsigilinti į kodą, o tai suteikia projektui platesnį patrauklumą-taigi ir galimybė surinkti daugiau duomenų apie tai, kurie modeliai nuosekliai vertina geriau.

Be abejo, tai, ar šie balai yra labai naudingi PG, yra diskutuojama. Vis dėlto Singhas tvirtina, kad jie yra stiprus signalas.

„Dabartinė lyderių lentelė gana glaudžiai atspindi mano paties patirtį, kai naudojate šiuos modelius, kurie nepanašūs į daugybę grynų teksto etalonų“, – teigė Singhas. „Galbūt (MC-Bench) įmonėms gali būti naudinga žinoti, ar jos eina teisinga linkme“.

Praėjusiais metais „Pinterest“ sukūrė patrauklų formatą su koliažais, leidžiančius vartotojams derinti vaizdus ir iškarpas, kad būtų sukurtas naujas turinys. Bendrovė dabar siekia, kad žmonės sukurtų daugiau jų, įdiegdama Remix funkciją.

Kaip ir „Remix“ funkcija trumpose vaizdo įrašų programose, tokiose kaip „Instagram“ ir „Snap“, „Pinterest“ funkcijos idėja yra ta, kad vartotojai gali pasiskolinti esamą koliažą ir įdėti jį į savo mintis. Vartotojai, kurie nenori būti permaišyti, gali išjungti koliažų permaišymą nustatymuose.

Galite sukurti naują remiksą koliažo įrankyje eidami į parinktį „Remiksuoti koliažo kortelę“ arba bakstelėję mygtuką „Remiksuoti“ koliažo, kurį aptikote naršydami „Pinterest“. Kai paskelbsite pakeitimus, galutiniame koliaže bus nurodyti ir naudotojo, ir pradinio koliažo kūrėjo vardai.

Be Remix funkcijos, socialinė platforma taip pat leidžia vartotojams lengviau atsisiųsti ir bendrinti įvairių stilių vaizdo įrašų formato koliažus, tokius kaip įprastas vaizdo įrašas, laikmatis, iššifravimas, rašalas ir analoginiai. Tai reiškia, kad kūrėjai gali naudoti Pinterest kaip naują trumpų vaizdo įrašų kūrimo įrankį.

Taip pat galite atsisiųsti koliažą kaip vaizdą. „Pinterest“ teigė, kad vėliau šiais metais bus sukurta integracija, skirta koliažais tiesiogiai dalytis su kitomis socialinėmis platformomis.

„Mes taip pat matėme puikų įvaikinimą. Koliažai išsaugomi žymiai didesniu greičiu nei kitų tipų smeigtukai, ir matome, kad naudotojai, ypač Z kartos, mėgsta kurti koliažus kaip būdą išreikšti save“, – Davidas Temple'as, „Pinterest“ vidinio inkubatoriaus „Two Twenty“ vadovas. koliažų, teigiama pranešime.

Bendrovė teigė, kad nuo metų pradžios koliažų skaičius išaugo 418 %, atsižvelgiant į įvairius naudojimo atvejus, pavyzdžiui, planuojant aprangą, kuriant grožio procedūras ir svajojant bendrabučio kambarius. Koliažai yra populiariausias tarp Z kartos, nes 72 % kasdienių koliažų naudotojų yra Z kartos. Bendrovė daugiausia dėmesio skiria koliažų funkcijoms, nes dabar jie yra patrauklesni nei tradiciniai smeigtukai.

Koliažai gimė iš Pinterest „iOS“ programos „Shuffles“, kuri buvo paleista 2022 m. Galiausiai praėjusiais metais bendrovė integravo formatą į pagrindinę programėlę.

Bendrovė jau bando šiek tiek užsidirbti iš koliažų. Per pastaruosius kelis mėnesius „Pinterest“ pakvietė reklamuotojus kurti koliažus naudojant produktų smeigtukų išpjovas iš jų katalogo ir reklamuoti juos kaip skelbimus. Per savo 2024 m. antrojo ketvirčio pajamas socialinė platforma teigė, kad tokie prekių ženklai kaip Nike, John Lewis ir Bumble naudojo koliažus savo produktams reklamuoti.

Bendrovė turi daugiau nei 522 milijonus pasaulinių aktyvių mėnesinių vartotojų, o Z karta yra pagrindinis įsitraukimo veiksnys.