Iepazīstieties ar diem, ar AI darbināmā “sociālā meklētājprogramma” bija paredzēta, lai justos kā jūsu draugu grupa

Piemēram, pieņemsim, ka vēlaties uzzināt, cik maksā olu iesaldēšana. Jūs ierakstītu šo jautājumu DIES, un AI komponents izmantotu savu plašāko interneta datu bāzes un DIE lietotāja-ielušu saturu, lai ģenerētu gan viena teikuma atbildi, gan garāku. Un jūs saņemtu abus līdztekus visiem kopienas veidotajiem ierakstiem par šo tēmu, ja jūs būtu ieinteresēts ritināt tos cauri.

Tādā veidā Diem apvieno AI vieglumu ar faktisko sieviešu un ne-bināro ļaužu zināšanu personalizāciju-ļoti anekdotisku informāciju un dzīves pieredzi un tenkas Bieži atņemšana no meklētājprogrammām neobjektivitātes dēļ (vairāk par to zemāk). Bates saka, ka tā ir kombinācija, kas padara informāciju par diem gan noderīgu, gan tieši piemērojamu cilvēkiem no šīm kopienām. “Veids, kā mēs vienmēr esam domājuši par ēku, ir:“ Kā mēs varam izveidot telpu, kurā jūs varētu meklēt jūsu kopienu kolektīvās atziņas?'" viņa saka. “Ja jūs varat kopā veidot kopā ar savu kopienu, tas veido balsi, datus un pieredzi, un tas galu galā jūtas savādāk.”

Jautājums par dzimumu aizspriedumiem meklētājprogrammās un AI platformās

Tā kā dzimumu aizspriedumi ir izplatīti sabiedrībā kopumā, tā pastāv arī interneta meklēšanas un dzinēju algoritmos un veicina dzimumu informācijas trūkumu. Tā ir tāda pati plaisa, ar kuru Beitss saskārās, mēģinot atrast piemērojamu, relatablu informāciju par rīta pēc tabletēm 2018. gadā.

Kā pierādījumu, apsveriet 2022. gada pētījuma rezultātus, par kuriem pētnieki meklēja, lai noteiktu, vai Google attēlu meklējumi valstīs ar augstāku dzimumu un nederīgu rādītāju (novērtēti ar globālo dzimumu atšķirību indeksu) arī parādītu dzimumu aizspriedumus. Lai to izdarītu, viņi savā pirmajā pētījumā veica vārda "personu" meklēšanu 37 valstu valodā un 52 valstis otrajā. Visos gadījumos Google meklēšana rada valstīs ar lielāku sabiedrības dzimumu nevienlīdzības līmeni arī atklāja lielākas dzimumu atšķirības (kas nozīmē, ka lielāks procents no pirmajiem 100 attēla rezultātiem parādīja vīrieti pret sievieti).

Ir arī atrasti jauni AI robotprogrammatūras, lai saglabātu dzimumu aizspriedumus. Piemēram, Bloombergs ziņoja, ka skaitļošanas zinātnieks ieguva Chatgpt, lai izspļautu kodu, kurā teikts, ka tikai Āzijas vai baltie vīrieši veidos labus zinātniekus; Uzņēmuma izpilddirektors atbildēja zinātniekam vietnē Twitter, mudinot lietotājus "īkšķus" uzņemt "šādas atbildes, lai palīdzētu programmai iemācīties nepludināt aizspriedumus.

Kad es uzdevu Chatgpt līdzīgu jautājumu, tā teica, ka nav pareizi izmantot kāda dzimumu vai sacīkstes, lai noteiktu, vai viņi būtu izcili profesijā. Bet, lai gan šķiet, ka AI šobrīd mācās būt mazāk neobjektīva, tā joprojām paļaujas uz objektīviem, līdzjūtīgiem lietotājiem, lai apmācītu to, lai tā būtu tā. (Tā kā Diema AI lielākoties ir apmācīts par izveidoto informāciju par un par Sievietes un cilvēki, kas nav bināri, un tādējādi nav pakļauti vienam un tam pašam jautājumam par sieviešu aizspriedumiem no lēciena.)

"AI ir tikai tikpat labi kā dati, uz kuriem tie ir apmācīti, un tāpēc, ka visiem cilvēkiem ir aizspriedumi un aizspriedumi, kad tiek izmantoti viņu dati, ka aizspriedumi un aizspriedumi kļūst par AI daļu."-Nina Vasan, MD, psihiatrs

Šie atklājumi parāda, kā aizspriedumi, kurus mēs uzturam, kā cilvēki, protams, pārsūta mūsu izveidotos produktus, un datu kopas, uz kurām mēs ieguldām. "AI ir tikai tikpat labi kā dati, uz kuriem tie ir apmācīti, un tāpēc, ka visiem cilvēkiem ir aizspriedumi un aizspriedumi, kad tiek izmantoti viņu dati, ka aizspriedumi un aizspriedumi kļūst par AI daļu," saka psihiatrs Nina Vasan, MD, galvenais medicīnas darbinieks digitālās terapijas platformas reālā un Brainstorm: Stenfordas laboratorijas dibinātājs un izpilddirektors garīgās veselības inovācijas.

Kā Diem mērķis ir kļūt par jautru, informatīvu meklētājprogrammu, kas īpaši paredzēta sievietēm un cilvēkiem, kas nav bināri

Ņemot vērā Diem paredzēto lietotāja demogrāfiju, Bates saka, ka viņa domā par platformas dalīto informāciju un tērzēšanas rādītāju radīto informāciju kā atbildes uz jautājumiem, kas cilvēkiem ir, kad viņi atrodas savas dzīves "drauga posmā"; Cilvēki absorbē daudz informācijas no draugiem, kad viņi ir divdesmito gadu vidū un trīsdesmito gadu sākumā, viņa saka. Dīva ideja ir tāda, ka jūs iegūstat perspektīvas no dažādiem sava vecuma un dzimuma identitātes cilvēkiem, ar kuriem jūs, iespējams, neesat mijiedarbojies, un ka kolektīvā izpratne dod labumu visiem platformas.

Tā kā Diema AI tiek barota ar informāciju tieši no šī demogrāfijas cilvēkiem, tā ir reprezentatīva platforma pēc dizaina. Sākotnēji tūkstošiem sieviešu un ne-bināro cilvēku ir uzdevuši jautājumus un dalījušies ar atbildēm par diem par tām nozīmīgām tēmām, it īpaši personīgās veselības, naudas un attiecību kategorijās-tas ir tas, kur Diem AI ir vislabāk apmācīts.

Kamēr tas joprojām mācās, tas atvelk no plašākas patentētas datu kopas (līdzīgi kā tas, kas pilnvaro Chatgpt) atrast informāciju par jautājumiem, kurus cilvēki sabiedrībā vēl nav apsprieduši. Tomēr diferenciācijas punkts ir tas, ka tas joprojām izspiež "apkopotu Diem-Y atbildi" par šiem jautājumiem, saka Beitss, izmantojot faktisko diem convos, lai informētu atbildes stilu un toni.

Tā kā Diem joprojām ir AI, kas paļaujas uz gan lietotāju ģenerētu saturu, gan šo plašāku datu kopu, tā noteikti nav imūns uz problēmām, ar kurām saskaras citas meklētājprogrammas un AI tērzēšanas roboti, ieskaitot nepatiesus, maldinošus un, jā, pat neobjektīvu saturu. Savukārt lietotnē un darbvirsmas versijā ir poga, lai ziņotu par ļaunprātīgu izmantošanu, un platforma ir publicējusi kopienas vadlīniju kopumu, kas veicina tādas lietas kā “laipnība un zinātkāre” un “empātiska iesaiste”-lai nodrošinātu tā lietotāju drošību un informācijas kvalitāte.

Diem sākas laikā, kad valdības amatpersonas gan Amerikas Savienotajās Valstīs, gan Eiropas Savienībā pēta veidus, kā regulēt AI, galvenokārt iepriekšminēto bažu dēļ. U.S. Konkrēti, prezidenta Džo Baidena birojs oktobrī publiskoja AI tiesību likumprojekta projektu, divpusēju U grupu.S. Senatori, kuru vadīja senators Čaks Šumers, strādā pie tiesību aktiem, lai izveidotu apsardzes līdzekļus visā nozarē, un četras valdības aģentūras pagājušajā mēnesī publiskoja kopīgu paziņojumu, kurā tika iesniegtas pilnvaras, kas viņiem ir, lai rūpīgāk regulētu nozari, jo īpaši pret diskrimināciju, kas izriet no aizspriedumiem.

Bet Bates netiek atturēts, ieejot šajā ainavā. Viņa prognozē, ka interneta nākotnē notiks "interesanta maiņa", kurā cilvēki meklēs informāciju, kas īpaši rūpējas par to, kur viņi ir viņu dzīvē. Tā vietā, lai lūgtu Google, piemēram, iepazīšanās padomus, viņa cer, ka drīz jūs pāriesit uz tādu platformu kā DIES, kas jums sniegs atbildes, kas iegūtas no cilvēkiem ar līdzīgu dzīvu pieredzi ar jūsu pašu.

"Šobrīd mēs pastāvam monopolos, un tas ietekmē to, kā mēs izmantojam internetu un ko mēs sagaidām no platformām," saka Bates. Galu galā šie monopoli bieži atspoguļo aizspriedumus par labu vīriešiem. "Es domāju, ka interneta nākotne piedāvās vairāk nišu pieredzes," viņa saka. Un kurš gan saka, ka niša noteikti ir maza? Kā uzsver Beits, sievietes identificējošie ļaudis veido gandrīz vienādu daļu no planētas cilvēku. Un tagad ir milzu grupas tērzēšana, kas gaida viņu ieguldījumu.

Wellness Intel, kas jums nepieciešams bez BS, kuru šodien nepierakstāties, lai būtu jaunākie (un lielākā) labsajūtas jaunumi un eksperti apstiprināti padomi, kas piegādāti tieši jūsu iesūtnē.