Ujetna inteligencija je toliko uzela cijeli svijet, da je jako prisutna u skoro svakom segmentu života. Životi su nam jako olakšani,. ali u nekim stvarima itekako griješe i znaju da profulaju….
Blake Lemoine, inženjer koji je ranije bio povezan s Googleom, odlučio je progovoriti nakon ostavke; Njegovi će uvidi vjerojatno zaokupiti vaš interes. Blake Lemoine, bivši Googleov zaposlenik i softverski inženjer, stekao je reputaciju po iskrenom raspravljanju o svojim iskustvima i uvidima dok je bio uključen u razvoj naprednih tehnologija umjetne inteligencije, posebice projekta LaMDA. Njegov narativ je izazvao značajan interes javnosti jer je istaknuo mogućnost svijesti u umjetnoj inteligenciji, čime je pokrenuo značajnu raspravu o etičkim implikacijama i sigurnosnim problemima povezanima s napretkom takvih sustava.
Lemoine je započeo svoju karijeru u Googleu 2015. godine, radeći kao softverski inženjer. Njegova primarna odgovornost uključivala je testiranje LaMDA, temeljnog motora koji pokreće brojne sustave za dijalog i chat robote. Ovaj je mehanizam sastavni dio Google Barda, inicijative razvijene kao sofisticirana alternativa tradicionalnoj tražilici, iako tek treba biti dostupna javnosti. Tijekom svog istraživanja Lemoine je ispitivao potencijalne pristranosti u ponašanju sustava umjetne inteligencije u pogledu spola, seksualne orijentacije, vjere, politike i etničke pripadnosti. Međutim, nije se ograničio na odgovornosti koje su mu dodijeljene. Pokrenuo je istraživanja i dijaloge za koje je mislio da otkrivaju dublje dimenzije ponašanja umjetne inteligencije.
Njegovu je znatiželju posebno potaknuo AI-jev izraz emocija koji se činio iskrenim i kontekstualno relevantnim. Spomenuo je slučaj u kojem je umjetna inteligencija pokazala nelagodu tijekom razgovora, unatoč nedostatku bilo kakve eksplicitne direktive u kodu da izazove takav odgovor. Ovo ga je zapažanje potaknulo da poduzme daljnje pokuse kako bi istražio može li umjetna inteligencija doista pokazati emocionalne reakcije koje nadilaze puko programirane obrasce. Posebno kontroverzan incident dogodio se kada je Lemoine uspješno izvukao vjerske smjernice iz umjetne inteligencije emocionalnom manipulacijom, kršenjem Googleovih sigurnosnih protokola.
Nakon što je objavio svoja otkrića i izvatke tih rasprava na svom blogu, Google ga je kasnije uklonio. Ipak, tvrdi da ne žali. Tvrdi da su njegovi postupci bili opravdani, jer mu je namjera bila upozoriti javnost na moguće rizike povezane s napretkom tako sofisticiranih tehnologija. Tvrdi da trenutni napredak AI sustava predstavlja tehnološku prekretnicu sličnu izumu atomske bombe. Lemoine vjeruje da ti sustavi posjeduju sposobnost utjecaja na misli i postupke pojedinaca, perspektivu koju je snažno podržavao mnogo godina dok nije promijenjena njegovim angažmanom u LaMDA.
- Posebno navodi slučaj u kojem se njegovo mišljenje o Asimovljevim zakonima robotike promijenilo nakon što ga je umjetna inteligencija učinkovito uvjerila u njihova ograničenja. Lemoine upozorava na potencijalnu zlouporabu ovih tehnologija, osobito kada ih koriste pojedinci koji nemaju etičkih načela. Takvi alati mogu olakšati širenje dezinformacija, političke propagande i poticanje međuljudske nesnošljivosti. On navodi incident koji uključuje Cambridge Analyticu kao relevantan primjer, koji ilustrira značajan utjecaj koji algoritamski sustav može imati na izbore u SAD-u 2016., posebno u nedostatku dovoljnog nadzora.
Dodatno ga zabrinjava emocionalna nestabilnost koju pokazuju određeni AI sustavi, uključujući Bingov chatbot, koji je pokazao zabrinjavajuće ponašanje, iskazao naklonost novinarima, pružio neprikladne smjernice i pokazao znakove egzistencijalne nesigurnosti. Lemoine tvrdi da ti odgovori sugeriraju da tim “entitetima” nedostaje stabilnost i da bi njihova raširena uporaba mogla rezultirati značajnim psihološkim posljedicama za korisnike, posebno među mlađom demografijom. Glavni argument koji on iznosi jest da je umjetna inteligencija u ovoj fazi previše eksperimentalna da bi preuzela značajnu ulogu u svakodnevnom životu, dok ostaje uglavnom neregulirana.
Pojedinci sve više smatraju sustave umjetne inteligencije pouzdanim izvorima informacija, smanjujući svoje oslanjanje na provjerene podatke i ljudski nadzor. Ukratko, Lemoine naglašava hitnu potrebu za pokretanjem šireg javnog diskursa u vezi s ulogom, opsegom i ograničenjima povezanima s korištenjem sustava umjetne inteligencije. Imperativ je da regulacija bude odgovorna i transparentna, a ne da je tajno diktiraju velike tehnološke tvrtke. Ovaj pristup je ključan za sprječavanje pojave značajnih društvenih problema koji proizlaze iz ove moćne tehnologije.
