EMA și Heads of Medicines Agencies (HMA) au publicat principii și recomandări la nivel înalt pentru întregul personal din cadrul rețelei europene de reglementare a medicamentelor (EMRN) care utilizează modele lingvistice de mari dimensiuni (MLM) în activitatea lor.

MLM-urile sunt o categorie de inteligență artificială generativă, ale cărei aplicații pot sprijini în mod semnificativ autoritățile de reglementare a medicamentelor în sarcinile și procesele lor. Fie că sunt utilizate pentru a interoga documentația extinsă pe care autoritățile de reglementare o primesc în mod obișnuit, pentru a automatiza procesele de extragere a cunoștințelor/datelor sau ca asistenți AI virtuali în sarcinile administrative zilnice - MLM-urile au un potențial de transformare enorm.

Cu toate acestea, MLM-urile prezintă și provocări, de exemplu, variabilitatea rezultatelor, returnarea de răspunsuri irelevante sau inexacte (așa-numitele halucinații) și riscuri potențiale pentru securitatea datelor. Scopul principiilor directoare este de a consolida înțelegerea capacităților și limitelor acestor aplicații în rândul personalului agențiilor de reglementare din întreaga UE, astfel încât acesta să poată valorifica în mod eficient potențialul MLM-urilor și să evite capcanele și riscurile.

Principiile directoare acoperă diverse aspecte ale utilizării softurilor, de la asigurarea introducerii sigure a datelor, la aplicarea gândirii critice și verificarea încrucișată a rezultatelor, până la a ști pe cine să consulți atunci când apar probleme. Utilizarea responsabilă a MLM necesită familiarizarea cu instrumentele. Importanța învățării continue este subliniată pentru a ține pasul cu domeniul care se schimbă rapid.

În plus, principiile încurajează agențiile de reglementare să depună eforturi pentru a-și sprijini personalul în utilizarea MLM-urilor. Aceasta include definirea guvernanței privind utilizarea lor, specificarea cazurilor de utilizare permise, furnizarea de formare și monitorizarea riscurilor.

Principiile se împart în două categorii principale

1. Principii pentru utilizatori

• Asigurarea introducerii sigure a datelor: Utilizatorii trebuie să adapteze prompturile conform nivelului de control asupra modelului și să evite introducerea informațiilor sensibile, precum date personale sau secrete comerciale.
• Verificarea rezultatelor și aplicarea gândirii critice: Este esențială evaluarea calității și corectitudinii răspunsurilor, pentru a evita informații irelevante, părtinitoare sau plagiat.
• Învățare continuă: Utilizatorii sunt încurajați să se informeze constant despre evoluțiile MLM-urilor pentru a le utiliza eficient și responsabil.
• Consultarea specialiștilor: Utilizatorii trebuie să știe cui să se adreseze pentru probleme de securitate sau pentru raportarea incidentelor legate de utilizarea LLM-urilor.

2. Principii organizaționale

• Definirea guvernanței: Agențiile de reglementare trebuie să stabilească o guvernanță clară pentru utilizarea MLM-urilor, incluzând utilizările permise, protejarea datelor și pregătirea personalului pentru monitorizarea riscurilor.
• Maximizarea valorii MLM-urilor: Organizațiile ar trebui să ofere instruire și suport pentru optimizarea utilizării LLM-urilor, cum ar fi formarea în ingineria prompturilor.
• Schimbul de experiențe și colaborare: Partajarea cunoștințelor și experiențelor în rețea, prin forumuri și sesiuni de instruire, ajută la crearea unui cadru comun de înțelegere și la îmbunătățirea practicilor de reglementare.

Principiile pot fi citite integral pe pagina EMA.

Sursa: ema.europa.eu