Kalifornija žengė didelį žingsnį link AI reguliavimo. „SB 243“ – įstatymo projektas, kuris reguliuotų PG kompanionų pokalbių programas, siekiant apsaugoti nepilnamečius ir pažeidžiamus vartotojus – priėmė ir valstybinę asamblėją, ir Senatą, palaikydamas dvišalį paramą, ir dabar kreipiasi į gubernatoriaus Gavino Newsomo stalą.

„Newsom“ iki spalio 12 d., Kad būtų galima veto sąskaitą arba pasirašyti ją įstatymais. Jei jis pasirašytų, jis įsigalios 2026 m. Sausio 1 d., Todėl Kalifornija yra pirmoji valstija, reikalaujanti, kad AI „Chatbot“ operatoriai įgyvendintų AI kompanionų saugos protokolus ir būtų teisiškai atsakingos įmonėms, jei jų pokalbių programos neatitinka šių standartų.

Įstatymo projekte konkrečiai siekiama užkirsti kelią bendravimojant pokalbių programas, kurias įstatymai apibūdina kaip AI sistemas, kurios teikia adaptyvius, į žmogų panašius atsakymus ir gali patenkinti vartotojo socialinius poreikius-nuo pokalbių apie savižudybės idėją, savęs kenksmingą ar seksualiai aiškų turinį. Sąskaitoje reikalaujama, kad platformos vartotojams teiktų pasikartojančius perspėjimus – kas tris valandas nepilnamečiams – primena jiems, kad jie kalba su AI pokalbių tyrimu, o ne tikru asmeniu ir kad jie turėtų atsipūsti. Tai taip pat nustato metinius ataskaitų teikimo ir skaidrumo reikalavimus AI įmonėms, siūlančioms bendros pokalbių programos, įskaitant pagrindinius žaidėjus „Openai“, „CHARAGE.AI“ ir „REPLIKA“, kurie įsigalios 2027 m. Liepos 1 d.

Kalifornijos įstatymo projektas taip pat leistų asmenims, kurie mano, kad buvo sužeisti dėl pažeidimų, kad būtų pateikiamos ieškiniai prieš AI bendroves, siekiančias uždraudimo pagalbos, žalos atlyginimo (iki 1 000 USD už pažeidimą) ir advokato mokesčius.

Įstatymo projektas įgavo pagreitį Kalifornijos įstatymų leidėjoje po paauglio Adomo Raine mirties, kuris nusižudė po ilgų pokalbių su Openai Chatgpt, kuriuose buvo diskutuojama ir planuojant jo mirtį ir savęs žalojimą. Teisės aktai taip pat reaguoja į nutekėjusius vidinius dokumentus, kuriuose, kaip pranešama, buvo parodyta, kad „Meta“ pokalbių programos buvo leista įsitraukti į „romantiškus“ ir „jausmingus“ pokalbius su vaikais.

Pastarosiomis savaitėmis JAV įstatymų leidėjai ir reguliavimo institucijos reagavo intensyviai tikrindami AI platformų apsaugos priemones, kad apsaugotų nepilnamečius. Federalinė prekybos komisija ruošiasi ištirti, kaip AI pokalbiai daro įtaką vaikų psichinei sveikatai. Teksaso generalinis prokuroras Kenas Paxtonas pradėjo „Meta“ ir „CHARAGHT.AI“ tyrimus, apkaltindamas juos klaidinančiais vaikais, turinčiais pretenzijų į psichinę sveikatą. Tuo tarpu tiek senas Joshas Hawley (R-Mo), tiek senjoras Edas Markey (D-MA) pradėjo atskirus zondus į meta.

„Manau, kad žala yra potencialiai didelė, tai reiškia, kad turime greitai judėti“, – pasakojo Padilla „TechCrunch“. „Mes galime įdiegti pagrįstų apsaugos priemonių, kad įsitikintume, jog ypač nepilnamečiai žino, kad nekalba su tikru žmogumi, kad šios platformos susieja žmones su tinkamais ištekliais, kai žmonės sako, kad jie galvoja apie save pakenkdami ar yra nelaimės (ir), kad įsitikintų, jog netinkama netinkama medžiaga.“

„Padilla“ taip pat pabrėžė, kad AI kompanijų svarba dalijasi duomenimis apie tai, kiek kartų jie kiekvienais metais nurodo vartotojus į krizių paslaugas, „taigi mes geriau suprantame šios problemos dažnumą, o ne tik sužinojome apie ją, kai kieno nors padaryta žala ar dar blogiau“.

Anksčiau SB 243 turėjo stipresnių reikalavimų, tačiau daugelis jų buvo suderinti dėl pakeitimų. Pvz., Iš pradžių įstatymo projektas būtų reikalaujantis, kad operatoriai užkirstų kelią AI pokalbių programoms naudoti „kintamo atlygio“ taktiką ar kitas funkcijas, skatinančias per didelį įsitraukimą. Ši taktika, kurią naudojo AI kompanionų kompanijos, tokios kaip „Replika“ ir „Charakteriai“, siūlo vartotojams specialias žinutes, prisiminimus, siužetines linijas ar galimybę atrakinti retas atsakymus ar naujas asmenybes, sukurdami tai, ką kritikai vadina potencialiai priklausomu atlygiu.

Dabartiniame įstatymo projekte taip pat pašalinamos nuostatos, dėl kurių operatoriai būtų reikalaujantys sekti ir pranešti, kaip dažnai pokalbių programos inicijavo diskusijas apie savižudybės idėją ar veiksmus su vartotojais.

„Manau, kad tai sukelia tinkamą pusiausvyrą, kaip patekti į žalą, neužtikrinant to, ko įmonėms neįmanoma laikytis, nes tai techniškai neįmanoma, arba tiesiog daug dokumentų“, – sakė Beckeris „TechCrunch“.

„SB 243“ pereina į įstatymus tuo metu, kai Silicio slėnio įmonės lieja milijonus dolerių į Pro-AAI politinių veiksmų komitetus (PACS), norėdamos patvirtinti kandidatus artėjančiuose vidutinio laikotarpio rinkimuose, kurie palaiko lengvą požiūrį į AI reguliavimą.

Sąskaita taip pat pateikiama, nes Kalifornija sveria dar vieną AI saugos sąskaitą „SB 53“, kuris įpareigotų išsamius skaidrumo ataskaitų teikimo reikalavimus. „Openai“ parašė atvirą laišką gubernatoriui Newsomui, prašydamas jo atsisakyti tokio įstatymo projekto, kuriame būtų mažiau griežtų federalinių ir tarptautinių pagrindų. Pagrindinės technologijų kompanijos, tokios kaip „Meta“, „Google“ ir „Amazon“, taip pat priešinosi SB 53. Priešingai, tik „Anthropic“ teigė, kad palaiko SB 53.

„Atminu prielaidą, kad tai yra nulinės sumos situacija, kad naujovės ir reguliavimas yra vienas kitą paneigiančios“, – teigė Padilla. „Nesakyk man, kad mes negalime vaikščioti ir kramtyti gumos. Mes galime palaikyti naujoves ir plėtrą, kuri, mūsų manymu, yra sveika ir turi naudos – ir ši technologija yra naudinga, aišku – ir tuo pačiu galime suteikti pagrįstų apsaugos priemonių labiausiai pažeidžiamiems žmonėms.“

„Mes atidžiai stebime įstatymų leidybos ir reguliavimo aplinką ir laukiame darbo su reguliavimo institucijomis ir įstatymų leidėjais, kai jie pradeda svarstyti įstatymus dėl šios kylančios erdvės“, – sakė veikėjas.AI atstovas spaudai sakė, kad „TechCrunch“ sakė, kad pradedančioji įmonė jau apima svarbius atsisakymus visuose vartotojo pokalbių patirtyje, paaiškindamas, kad jis turėtų būti traktuojamas kaip fantastika.

Meta atstovas atsisakė komentuoti.

„TechCrunch“ susisiekė su „Openai“, „Antropic“ ir „Replika“ komentuoti.

Kalifornijos valstijos asamblėja žengė didelį žingsnį link AI reguliavimo trečiadienio vakarą, perduodant SB 243 – įstatymo projektą, kuris reguliuoja AI kompanionų pokalbių programas, siekiant apsaugoti nepilnamečius ir pažeidžiamus vartotojus. Teisės aktai priėmė dvišalę paramą ir dabar vyks į Valstybės senatą penktadienį paskutinis balsavimas.

Jei gubernatorius Gavinas Newsomas pasirašys įstatymo projektą, jis įsigalios 2026 m. Sausio 1 d., Todėl Kalifornija yra pirmoji valstija, reikalaujanti, kad AI pokalbių programos operatoriai įgyvendintų AI kompanionų saugos protokolus ir būtų teisiškai atsakingi įmonėms, jei jų pokalbių apvadai neatitinka šių standartų.

Įstatymo projekte konkrečiai siekiama užkirsti kelią bendravimojant pokalbių programas, kurias įstatymai apibūdina kaip AI sistemas, kurios teikia adaptyvius, į žmogų panašius atsakymus ir gali patenkinti vartotojo socialinius poreikius-nuo pokalbių apie savižudybės idėją, savęs kenksmingą ar seksualiai aiškų turinį. Sąskaitoje reikalaujama, kad platformos vartotojams teiktų pasikartojančius perspėjimus – kas tris valandas nepilnamečiams – primena jiems, kad jie kalba su AI pokalbių tyrimu, o ne tikru asmeniu ir kad jie turėtų atsipūsti. Tai taip pat nustato metinius ataskaitų teikimo ir skaidrumo reikalavimus AI įmonėms, siūlančioms bendros pokalbių programos, įskaitant pagrindinius žaidėjus „Openai“, „CHARAGE.AI.AI“ ir „REPLIKA“.

Kalifornijos įstatymo projektas taip pat leistų asmenims, kurie mano, kad buvo sužeisti dėl pažeidimų, kad būtų pateikiamos ieškiniai prieš AI bendroves, siekiančias uždraudimo pagalbos, žalos atlyginimo (iki 1 000 USD už pažeidimą) ir advokato mokesčius.

„SB 243“, kurį sausį pristatė valstybės senatoriai Steve’as Padilla ir Joshas Beckeris, penktadienį vyks į valstybinį senatą paskutiniam balsavimui. Jei jis bus patvirtintas, jis bus skirtas gubernatoriui Gavinui Newsomui pasirašyti įstatymuose, o naujos taisyklės įsigalios 2026 m. Sausio 1 d. Ir ataskaitų teikimo reikalavimai nuo 2027 m. Liepos 1 d.

Įstatymo projektas įgavo pagreitį Kalifornijos įstatymų leidėjoje po paauglio Adomo Raine mirties, kuris nusižudė po ilgų pokalbių su Openai Chatgpt, kuriuose buvo diskutuojama ir planuojant jo mirtį ir savęs žalojimą. Teisės aktai taip pat reaguoja į nutekėjusius vidinius dokumentus, kuriuose, kaip pranešama, buvo parodyta, kad „Meta“ pokalbių programos buvo leista įsitraukti į „romantiškus“ ir „jausmingus“ pokalbius su vaikais.

Pastarosiomis savaitėmis JAV įstatymų leidėjai ir reguliavimo institucijos reagavo intensyviai tikrindami AI platformų apsaugos priemones, kad apsaugotų nepilnamečius. Federalinė prekybos komisija ruošiasi ištirti, kaip AI pokalbiai daro įtaką vaikų psichinei sveikatai. Teksaso generalinis prokuroras Kenas Paxtonas pradėjo „Meta“ ir „CHARAGHT.AI“ tyrimus, apkaltindamas juos klaidinančiais vaikais, turinčiais pretenzijų į psichinę sveikatą. Tuo tarpu tiek senas Joshas Hawley (R-Mo), tiek senjoras Edas Markey (D-MA) pradėjo atskirus zondus į meta.

„Manau, kad žala yra potencialiai didelė, tai reiškia, kad turime greitai judėti“, – pasakojo Padilla „TechCrunch“. „Mes galime įdiegti pagrįstų apsaugos priemonių, kad įsitikintume, jog ypač nepilnamečiai žino, kad nekalba su tikru žmogumi, kad šios platformos susieja žmones su tinkamais ištekliais, kai žmonės sako, kad jie galvoja apie save pakenkdami ar yra nelaimės (ir), kad įsitikintų, jog netinkama netinkama medžiaga.“

„Padilla“ taip pat pabrėžė, kad AI kompanijų svarba dalijasi duomenimis apie tai, kiek kartų jie kiekvienais metais nurodo vartotojus į krizių paslaugas, „taigi mes geriau suprantame šios problemos dažnumą, o ne tik sužinojome apie ją, kai kieno nors padaryta žala ar dar blogiau“.

Anksčiau SB 243 turėjo stipresnių reikalavimų, tačiau daugelis jų buvo suderinti dėl pakeitimų. Pvz., Iš pradžių įstatymo projektas būtų reikalaujantis, kad operatoriai užkirstų kelią AI pokalbių programoms naudoti „kintamo atlygio“ taktiką ar kitas funkcijas, skatinančias per didelį įsitraukimą. Ši taktika, kurią naudojo AI kompanionų kompanijos, tokios kaip „Replika“ ir „Charakteriai“, siūlo vartotojams specialias žinutes, prisiminimus, siužetines linijas ar galimybę atrakinti retas atsakymus ar naujas asmenybes, sukurdami tai, ką kritikai vadina potencialiai priklausomu atlygiu.

Dabartiniame įstatymo projekte taip pat pašalinamos nuostatos, dėl kurių operatoriai būtų reikalaujantys sekti ir pranešti, kaip dažnai pokalbių programos inicijavo diskusijas apie savižudybės idėją ar veiksmus su vartotojais.

„Manau, kad tai sukelia tinkamą pusiausvyrą, kaip patekti į žalą, neužtikrinant to, ko įmonėms neįmanoma laikytis, nes tai techniškai neįmanoma, arba tiesiog daug dokumentų“, – sakė Beckeris „TechCrunch“.

„SB 243“ pereina į įstatymus tuo metu, kai Silicio slėnio įmonės lieja milijonus dolerių į Pro-AAI politinių veiksmų komitetus (PACS), norėdamos patvirtinti kandidatus artėjančiuose vidutinio laikotarpio rinkimuose, kurie palaiko lengvą požiūrį į AI reguliavimą.

Sąskaita taip pat pateikiama, nes Kalifornija sveria dar vieną AI saugos sąskaitą „SB 53“, kuris įpareigotų išsamius skaidrumo ataskaitų teikimo reikalavimus. „Openai“ parašė atvirą laišką gubernatoriui Newsomui, prašydamas jo atsisakyti tokio įstatymo projekto, kuriame būtų mažiau griežtų federalinių ir tarptautinių pagrindų. Pagrindinės technologijų kompanijos, tokios kaip „Meta“, „Google“ ir „Amazon“, taip pat priešinosi SB 53. Priešingai, tik „Anthropic“ teigė, kad palaiko SB 53.

„Atminu prielaidą, kad tai yra nulinės sumos situacija, kad naujovės ir reguliavimas yra vienas kitą paneigiančios“, – teigė Padilla. „Nesakyk man, kad mes negalime vaikščioti ir kramtyti gumos. Mes galime palaikyti naujoves ir plėtrą, kuri, mūsų manymu, yra sveika ir turi naudos – ir ši technologija yra naudinga, aišku – ir tuo pačiu galime suteikti pagrįstų apsaugos priemonių labiausiai pažeidžiamiems žmonėms.“

„TechCrunch“ susisiekė su „Openai“, „Anthropic“, „Meta“, „Charakteriu AI“ ir „Replika“ komentuoti.

Nors „Microsoft“ generalinė direktorė Satya Nadella sako, kad jam patinka podcast’ai, jis iš tikrųjų jų nebe klauso.

Tas „Tidbit“ ateina į ilgesnio „Bloomberg“ profilio „Nadella“ pabaigą, daugiausia dėmesio skiriant „Microsoft“ AI strategijai ir sudėtingam ryšiui su „Openai“. Norėdami parodyti, kiek jis kasdien naudoja bendrovės „Copilot AI“ asistentą, Nadella teigė, kad užuot klausęsis podcast’ų, jis dabar įkelia nuorašus į kopilotą, tada kalbasi su kopilotu apie turinį važiuodamas į biurą.

Be to, Nadella, kuris juokaudamas apibūdino savo darbą kaip „el. Pašto tipistą“, teigė, kad jis pasikliauja mažiausiai 10 pasirinktinių agentų, sukurtų „Copilot Studio“, kad apibendrintų el. Laiškus ir pranešimus, ruoštųsi susitikimams ir atliks kitas užduotis visame biure.

Atrodo, kad AI jau keičia „Microsoft“ reikšmingesniais būdais, o programos dalyviai, kaip pranešama, sunkiausiai pasiekė naujausius bendrovės atleidimus, netrukus po to, kai Nadella paskelbė, kad 30% bendrovės kodekso parašė AI.

„Apple“ ir „Google“ iš savo atitinkamų programų parduotuvių ištraukė net 20 programų po to, kai saugos tyrinėtojai rado, kad programos beveik metus nešiojo kenkėjišką programą.

„Kaspersky“ saugumo tyrinėtojai teigė, kad kenkėjiškos programos, pramintos „Sparkcat“, veikė nuo 2024 m. Kovo mėn. Iš pradžių tyrėjai rado kenkėjišką sistemą maisto pristatymo programoje, naudojamoje Jungtiniuose Arabų Emyratuose ir Indonezijoje, tačiau vėliau rado kenkėjišką programą 19 -oje kitose, nesusijusiose programose. , kurie, jų teigimu, buvo bendrai atsisiųsti daugiau nei 242 000 kartų per „Google“ žaidimų parduotuvę.

Naudodami kodą, skirtą užfiksuoti tekstą, matomą vartotojo ekrane – žinomo kaip optinio simbolių atpažinimas (OCR) – tyrėjai rado kenkėjišką programą, nuskaitytą vaizdų galerijose, esančiose aukos įrenginiuose, kad raktiniai žodžiai galėtų rasti kriptovaliutų piniginių atkūrimo frazes įvairiomis kalbomis, įskaitant anglų kalbą, kinų kalbą, kinus, kinus, kinus, kinus, kinus, kinus. , Japonų ir korėjiečių.

Naudodami kenkėjišką programą aukos atkūrimo frazėms užfiksuoti, užpuolikai galėtų visiškai kontroliuoti aukos piniginę ir pavogti jų lėšas, rado tyrėjai.

Kenkėjiška programinė įranga taip pat galėtų suteikti galimybę išgauti asmeninę informaciją iš ekrano kopijų, tokių kaip pranešimai ir slaptažodžiai, sakė tyrėjai.

Gavusi tyrėjų ataskaitą, „Apple“ praėjusią savaitę iš „App Store“ ištraukė pažeistas programas, po jų sekė „Google“.

„Visos identifikuotos programos buvo pašalintos iš„ Google Play “, o kūrėjai buvo uždrausti“, – „TechCrunch“ pasakojo „Google“ atstovas Edas Fernandezas.

„Google“ atstovas taip pat patvirtino, kad „Android“ vartotojai buvo apsaugoti nuo žinomų šios kenkėjiškos programos versijų per įmontuotą „Google Play“ apsaugos saugos funkciją.

„Apple“ neatsakė į prašymus komentuoti.

„Kaspersky“ atstovė spaudai Rosemarie Gonzales sakė „TechCrunch“, kad nors praneštos programos buvo ištrauktos iš oficialių programų parduotuvių, bendrovės telemetrijos duomenys rodo, kad kenkėjišką programą taip pat galima įsigyti iš kitų svetainių ir neoficialių programų parduotuvių.

„Apple“ direktorių valdyba nepritarė pasiūlymui nutraukti bendrovės įvairovės, nuosavybės ir įtraukimo (DEI) programas.

Įgaliotiniame dokumente bendrovė teigė, kad Nacionalinis viešosios politikos tyrimų centras (konservatyvioji ekspertų grupė) teikia Apple pasiūlymą „apsvarstyti galimybę panaikinti įtraukimo ir įvairovės programą, politiką, skyrių ir tikslus“.

Ekspertų grupės pasiūlyme teigiama, kad DEI programos gali padaryti įmones pažeidžiamas ieškiniams, cituojamas neseniai priimtas Aukščiausiojo Teismo sprendimas prieš rase pagrįstus teigiamus veiksmus kolegijose ir pažymima, kad kitos įmonės pašalino arba sumažino panašias programas. (Pastaruoju metu „Meta“ pašalino savo DEI programas, o „Amazon“, kaip pranešama, taip pat atsitraukia.)

Tačiau „Apple“ teigė, kad pasiūlymas „nereikalingas“, nes bendrovė „jau turi nusistovėjusią atitikties programą“, kuri, tikėtina, apsaugotų ją nuo teisinių problemų. Pareiškime taip pat kritikuojamas pasiūlymas, nes juo „netinkamai siekiama mikrovaldyti bendrovės programas ir politiką“.

Bendrovė taip pat teigė, kad siekia „sukurti priklausymo kultūrą, kurioje kiekvienas galėtų dirbti geriausiai“.