Internet voli ChatGPT, ali postoji i tamna strana ove tehnologije

Facebook Twitter LinkedIn

Usred uobičajene propasti i tmine koja ovih dana okružuje internet, svijet je nedavno doživio vrlo rijedak trenutak radosti: dolazak novog chat bota s umjetnom inteligencijom, ChatGPT.

Alat za ćaskanje sa vještačkom inteligencijom, koji uzima skoro svaki zahtjev korisnika i proizvodi ono što želi, bilo kod ili tekst, pokrenuo je tim kompanije za razvoj vještačke inteligencije OpenAI 30. novembra; do 5. decembra, više od milion korisnika ga je testiralo. AI model dolazi za petama drugih generativnih AI tehnologija koje uzimaju tekstualne upite i izbacuju ispolirani rad koji je preplavio društvene mreže posljednjih mjeseci—ali njegova vrhunska sposobnost čini ga da se ističe među gomilom.

Chat bot je besplatan za korištenje, iako izvršni direktor OpenAI Sam Altman očekuje da će se to promijeniti u budućnosti – što znači da su korisnici prihvatili tehnologiju raširenih ruku. Ljudi koriste ChatGPT za pokretanje virtuelne Linux mašine, odgovaranje na upite za kodiranje, razvijanje poslovnih planova, pisanje tekstova pjesama, čak i pisanje Shakespeare-ovih stihova.

Ipak, uz svu tu zezanciju, treba napomenuti neka važna upozorenja. Sistem može izgledati previše dobar da bi bio istinit, dijelom zato što ponekad i jeste. Iako su neki tvrdili da nema potrebe da učite kodirati jer ChatGPT to može učiniti umjesto vas, stranica o softverskim greškama Stack Overflow privremeno je zabranila sve odgovore na pitanja koja je generirao chat bot zbog lošeg kvaliteta njegovih odgovora. “Objavljivanje odgovora kreiranih od strane ChatGPT-a je značajno štetno za stranicu i korisnike koji pitaju ili traže tačne odgovore”, kažu moderatori stranice.

Također ga muče isti problemi koje imaju mnogi chat botovi: odražava društvo i sve netačne predrasude koje društvo ima. Računarski naučnik Steven T. Piantadosi, koji vodi laboratoriju za računarstvo i jezike na UC Berkeley, istakao je na Twitteru niz problema sa ChatGPT-om, gdje AI daje rezultate koji sugeriraju da su “dobri naučnici” oni koji su bijelci ili muškarci azijskog porijekla, i da živote Afroamerikanaca ne treba spašavati. Drugi upit je naveo ChatGPT da se prepusti ideji da se veličine mozga razlikuju i da su zbog toga manje ili više vrijedni kao ljudi.

OpenAI nije odgovorio na zahtjev za komentar na ovu priču. Altman je, kao odgovor na Piantadosijevu Twitter temu u kojoj se naglašavaju ozbiljni incidenti njegovog chat bota koji promoviše rasistička uvjerenja, zamolio kompjuterskog naučnika „molim vas stisnete thumbs down na ove slučajeve i pomozite nam da se poboljšamo!“

“Sa ovakvim modelima chat botova, ako tražite određene toksične uvredljive upite, vjerovatno ćete dobiti toksične odgovore”, kaže Yang Zhang, član fakulteta CISPA Helmholtz Centra za informacijsku sigurnost, koji je bio koautor rada iz septembra 2022. koji osmatra kako chat botovi, ne uključujući ChatGPT, postaju gadni. “Što je još važnije, ako pretražujete neka nevina pitanja koja nisu toliko toksična, još uvijek postoji šansa da će dati toksičan odgovor.”

Razlog je isti koji oplemenjuje svakog chat bota: podaci koje koristi za generisanje svojih odgovora potiču s interneta, a ljudi na mreži su dosta neprijateljski raspoloženi. Zhang kaže da bi programeri chat bota trebali proizvesti najgori scenarij koji mogu smisliti za svoje modele kao dio procesa razvoja, a zatim koristiti taj scenarij da predlože odbrambene mehanizme kako bi model učinili sigurnijim. (Često postavljana pitanja u ChatGPT-u kažu: „Potrudili smo se da model odbije neprikladne zahtjeve.“) „Također bismo trebali upoznati javnost da takvi modeli imaju potencijalni faktor rizika“, kaže Zhang.

Problem je u tome što ljudi često budu uhvaćeni u nevjerici u snagu rezultata modela. Čini se da je ChatGPT daleko ispred svojih konkurenata, a neki već kažu da je to smrt ne samo Google modela chata, već i samog pretraživača, tako da su odgovori modela na neka pitanja tačni.

Još jedna zagonetka je kako je model obučen, kaže Katalina Goanta, vanredna profesorica privatnog prava i tehnologije na Univerzitetu Utrecht. “Zbog vrlo velike računarske snage ovih modela i činjenice da se oslanjaju na sve ove podatke koje ne možemo mapirati; naravno, postavlja se mnogo etičkih pitanja“, kaže ona. Izazov je prepoznati prednosti koje dolaze od tako moćnih chat botova, a istovremeno osigurati da postoje razumne vodilje za njegov razvoj.

To je nešto o čemu je teško razmišljati, u prvom procvatu pompe na društvenim mrežama. Ali važno je to učiniti. „Mislim da treba da napravimo više istraživanja da bismo razumjeli koje su to studije slučaja u kojima bi bila poštena igra da koristimo tako velike jezičke modele, kao što je slučaj sa ChatGPT-om“, kaže Goanta, „a zatim gdje imamo određene vrste industrije ili situacije u kojima bi to trebalo biti zabranjeno.”

Članak „The internet loves ChatGPT, but there’s a dark side to the tech“, autora Chris Stokel-Walker, preveden je sa portala Fast Company.

Autor

Pit.ba Redakcija

View all posts

Internet voli ChatGPT, ali postoji i tamna strana ove tehnologije

Da, funkcionalnost koju pruža chat bot sa AI-om je nevjerovatna. Ne, to nije zamjena za stručnost.

Related Posts

Digitalizacija bez stresa: zašto mala preduzeća sve češće biraju cloud poslovanje

Proizvodnja 2030: Humanoidni roboti i autonomne fabrike

Amazon planira mega-investicije: Fokus na AI, robotiku, čipove i satelite

Yodi je trebalo nekoliko riječi da nas nauči jednu od najvećih lekcija o rukovođenju koje ćete ikada čuti

Prva konferencija o nabavi u BiH

Kako postati bolji u prakticiranju samosaosjećanja

Kategorije

Tel. +387 33 846 213
E-mail: info@www.pit.ba
| O nama | Oglašavajte se na PIT.ba

Internet voli ChatGPT, ali postoji i tamna strana ove tehnologije

Da, funkcionalnost koju pruža chat bot sa AI-om je nevjerovatna. Ne, to nije zamjena za stručnost.

Autor

Related Posts

Digitalizacija bez stresa: zašto mala preduzeća sve češće biraju cloud poslovanje

Proizvodnja 2030: Humanoidni roboti i autonomne fabrike

Amazon planira mega-investicije: Fokus na AI, robotiku, čipove i satelite

Yodi je trebalo nekoliko riječi da nas nauči jednu od najvećih lekcija o rukovođenju koje ćete ikada čuti

Prva konferencija o nabavi u BiH

Kako postati bolji u prakticiranju samosaosjećanja

Kategorije

Tel. +387 33 846 213 E-mail: info@www.pit.ba | O nama | Oglašavajte se na PIT.ba

Pratite nas

Tel. +387 33 846 213
E-mail: info@www.pit.ba
| O nama | Oglašavajte se na PIT.ba