OpenAI, neprofitna kompanija koja se bavi istraživanjima, a koju podržavaju Elon Musk, Reid Hoffman, Sam Altman i drugi, kaže da je novi model vještačke inteligencije koji se zove GPT2 toliko dobar i da je rizik od zlonamjerne upotrebe tako visok da odustaju od uobičajene prakse objavljivanja cijelog istraživanja za javnost kako bi ostavili sebi više vremena za diskusiju o mogućim posljedicama ovog tehnološkog dostignuća.
U svojoj osnovi, GPT2 je generator teksta. U sistem se unosi tekst, od nekoliko riječi do cijelih stranica, a od njega se zatim traži da napiše nekoliko narednih rečenica na osnovu svojih predviđanja šta bi trebalo da uslijedi. Ovaj sistem pomjera granice onoga što se smatralo mogućim, i u smislu kvaliteta krajnjeg rezultata i u smislu široke upotrebe.
Kada se koristi da bi se generisao novi tekst, GPT2 je sposoban da piše uvjerljive odlomke u skladu sa zadatim stilom i temom. Rijetko pokazuje slabosti koje su imali prethodni sistemi, kao što je zaboravljanje o čemu se piše usred paragrafa ili zbrka u sintaksi dugih rečenica.
Ako unesete uvodnu rečenicu iz Orvelove 1984-te, sistem prepoznaje futuristički ton i pripovjedački stil i nastavlja dalje opisivati radnju.
Ako unesete prvih nekoliko paragrafa teksta iz Gardijana o Brexitu, rezultat će biti uvjerljiv novinarski tekst, sa navođenjem izjava Jeremyja Corbyna, pominjanjem irske granice i odgovorima premijerkinog glasnogovnika.
GPT2 je revolucionaran iz dva razloga. Jedan je njegova veličina, kaže Dario Amodei, direktor istraživanja u OpenAI. Modeli su 12 puta veći, a baze podataka 15 puta veće i mnogo šire od prethodnih najnovijih modela. Istreniran je na bazi podataka koja sadrži oko 10 miliona članaka. Ogromna kolekcija teksta teška je 40 GB, što je dovoljno za 35,000 primjerka Moby Dicka.
Količina podataka na kojima je GPT2 istreniran direktno je uticala na njegov kvalitet, dajući mu više znanja o tome kako da razumije napisani tekst. To je dovelo i do drugog dostignuća. GPT2 ima mnogo širu upotrebu od ranijih modela. Strukturisanjem teksta koji se unese, može izvršiti zadatke uključujući prevod i sažimanje teksta, i uraditi jednostavne testove za razumijevanje pročitanog teksta, često obavljajući ove zadatke jednako dobro ili bolje od drugih vještačkih inteligencija koje su napravljene namjenski za takve zadatke.
Takav kvalitet je, međutim, naveo OpenAI da uradi suprotno od uobičajenog i da za sada zadrži GPT2 iza zatvorenih vrata, dok ne procijeni šta bi zlonamjerni korisnici mogli učiniti sa njim. “Moramo obaviti eksperimente da bismo otkrili šta oni mogu raditi, a šta ne,” kazao je Jack Clark, šef politike ove dobrotvorne organizacije. “Ako ne možete predvidjeti sve mogućnosti modela, morate ga testirati da vidite šta sve može da radi. Postoji mnogo ljudi koji bolje od nas znaju procijeniti šta on može učiniti u zlonamjerne svrhe.”
Da bi pokazali šta to znači, OpenAI su napravili jednu verziju GPT2-a sa nekoliko skromnih izmjena koje se mogu koristiti kako bi se generisalo beskonačno mnogo pozitivnih ili negativnih ocjena nekog proizvoda. Spamovi i lažne vijesti su drugi očigledni vidovi potencijalne zloupotrebe, kao što je i nefilterisana priroda vještačke inteligencije. Pošto je treniran na internetu, nije teško podstaći ga da generiše pristrasan tekst, teorije zavjere i tako dalje.
Cilj je da se pokaže šta je sve moguće, kako bi se svijet pripremio za nešto što će za godinu-dvije ući u široku upotrebu. “Ja imam temin za to. Pokretne stepenice iz pakla,” kazao je Clark. “ Troškovi i cijena tehnologije konstantno padaju. Pravila prema kojima kontrolišemo tehnologiju su se temeljno promijenila.
“Ne kažemo da znamo šta je ispravno učiniti u ovom slučaju, ne kažemo 'ovako treba' … Pokušavamo razviti rigoroznije razmišljanje. Pokušavamo sagraditi put kojim već putujemo.”
Izvor: The Guardian
