Un grup d’investigadors de la Universitat Politècnica de València (UPV) ha col·laborat recentment amb OpenAI en l’avaluació i millora de GPT-4, el nou model de llenguatge basat en intel·ligència artificial.
L’equip, liderat pel professor José Hernández-Orallo i integrat en l’institut VRAIN, ha sigut part del “xarxa team” de GPT-4, la missió de la qual era trobar errors i vulnerabilitats en el sistema, així com avaluar les seues capacitats i possibles riscos associats al seu ús.
La col·laboració va sorgir gràcies a l’experiència del grup d’investigació en l’avaluació de la intel·ligència artificial i els seus anteriors treballs amb OpenAI. Investigadors de OpenAI es van posar en contacte amb l’equip de la UPV per a sol·licitar la seua ajuda en l’avaluació de GPT-4, donada la relació entre les seues àrees d’investigació.
L’equip de la UPV, compost per Yael Moros, Lexin Zhou, Wout Schellaert, Cèsar Ferri i José Hernández-Orallo, va treballar estretament amb altres investigadors de OpenAI en el “xarxa team”. La seua labor va consistir en la identificació de riscos i vulnerabilitats en el sistema, adoptant la mentalitat i mètodes de possibles atacants, així com en l’avaluació de les capacitats de GPT-4 i el potencial excés de confiança dels usuaris en aquest.
El treball realitzat per l’equip de la UPV va ajudar a identificar riscos inicials, motivar la investigació sobre seguretat, realitzar proves iteratives en àrees clau i reduir els riscos en moltes àrees identificades. També va permetre comprendre millor les capacitats de GPT-4, les seues millores respecte a models anteriors i si estava avançant en la direcció desitjada.
Els investigadors de la UPV destaquen la determinació del “xarxa team” per a aconseguir sistemes més segurs i el gran salt en rendiment de GPT-3 a GPT-4 en només dos anys. Encara que consideren que és important utilitzar GPT-4 amb cautela per a evitar una dependència excessiva, opinen que té un gran potencial per a canviar la forma en què treballem, automatitzant tasques tedioses i permetent centrar-se en tasques més desafiadores i divertides.
En l’àmbit de l’enginyeria informàtica, GPT-4 podria influir significativament en el procés de desenvolupament de programari i maquinari, millorant la productivitat en tasques com a generació de codi, detecció i correcció d’errors, generació de documentació, revisió i optimització de codi, extracció i resum de coneixements, ciberseguretat, entre altres.
Els investigadors de la UPV subratllen la importància de fomentar el talent jove en aquest camp tan prometedor i comptar amb més recursos i suport de la universitat per a mantindre’s al dia amb l’evolució de la tecnologia d’intel·ligència artificial. Mentrestant, esperen poder publicar prompte un treball en el qual es detallen algunes de les tasques realitzades durant la seua col·laboració amb OpenAI en GPT-4.
(Ninguna valoración todavía)
Loading...
