Agenţia Europeană a Medicamentului (EMA) şi Şefii Agenţiilor Medicamentului (HMA) au publicat principii şi recomandări pentru întregul personal din cadrul Reţelei europene de reglementare a medicamentelor (EMRN) care utilizează modele lingvistice de mari dimensiuni (LLM) în activitatea lor.
Principiile directoare ale EMA stabilesc modul în care autorităţile de reglementare a medicamentelor din Uniunea Europeană pot utiliza modelele lingvistice mari (LLM) într-un mod sigur, responsabil şi eficient.
Acestea reprezintă unul dintre rezultatele planului de lucru multianual privind inteligenţa artificială (AI) până în 2028 al EMA şi al HMA.
Planul de lucru ghidează EMA şi EMRN în utilizarea AI, maximizând beneficiile, gestionând în acelaşi timp riscurile şi facilitând schimbul de informaţii, a transmis EMA într-un comunicat.
Modelele lingvistice mari sunt o categorie de inteligenţă artificială generativă, ale cărei aplicaţii pot sprijini în mod semnificativ autorităţile de reglementare a medicamentelor în sarcinile şi procesele lor.
Fie că sunt utilizate pentru a interoga documentaţia extinsă pe care autorităţile de reglementare o primesc în mod obişnuit, pentru a automatiza procesele de extragere a cunoştinţelor/datelor sau ca asistenţi AI virtuali în sarcinile administrative zilnice - aceste instrumente inteligente au un potenţial de transformare enorm.
Cu toate acestea, aceste instrumente inteligente prezintă şi provocări, de exemplu variabilitatea rezultatelor, returnarea de răspunsuri irelevante sau inexacte (aşa-numitele halucinaţii) şi riscuri potenţiale pentru securitatea datelor.
„Scopul principiilor directoare este de a consolida înţelegerea capacităţilor şi limitelor acestor aplicaţii în rândul personalului agenţiilor de reglementare din întreaga UE, astfel încât acesta să poată valorifica în mod eficient potenţialul LLM şi să evite capcanele şi riscurile", a precizat EMA.
Principiile directoare acoperă diverse aspecte ale utilizării LLM, de la asigurarea introducerii sigure a datelor, la aplicarea gândirii critice şi verificarea încrucişată a rezultatelor, până la a şti pe cine să consulţi atunci când apar probleme. Utilizarea responsabilă a LLM necesită familiarizarea cu instrumentele. Importanţa învăţării continue este subliniată pentru a ţine pasul cu domeniul care se schimbă rapid.
În plus, principiile încurajează agenţiile de reglementare să depună eforturi pentru a-şi sprijini personalul în utilizarea LLM, şi include definirea guvernanţei privind utilizarea LLM, specificarea cazurilor de utilizare permise, furnizarea de formare şi monitorizarea riscurilor.
Principiile directoare sunt un document viu care va fi actualizat periodic, iar EMA îl va prezenta în cadrul unui webinar la 13 septembrie 2024, în contextul planului de lucru privind AI (2023-2028), a mai precizat agenţia europeană de reglementare în domeniul sănătăţii.
