Comunitatea Madrid creează tehnici de verificare pentru a crește securitatea în utilizarea inteligenței artificiale

Acest sistem cuprinde o familie de tehnici criptografice care permit obținerea unei garanții de nefalsificat că un terț, cum ar fi o companie sau un server cloud, a efectuat prelucrarea corectă a datelor unui utilizator. Astfel, puteți demonstra dacă o imagine sau un videoclip a fost editat, să confirmați că o predicție făcută de AI provine dintr-un model auditat sau că doar informațiile furnizate de client au fost folosite într-o decizie privind bonitatea. Toate acestea într-un mod compatibil cu confidențialitatea pentru a vă garanta confidențialitatea.

Cercetătorii au introdus un protocol care poate fi integrat cu ușurință într-un lanț de procesare a datelor pentru a permite verificarea completă, de exemplu, a predicțiilor făcute de rețelele neuronale, care stau la baza majorității modelelor AI. Echipa a realizat o aplicație prototip a sistemelor sale de verificare care reprezintă o îmbunătățire notabilă față de tehnicile existente, în special datorită vitezei sale.

Aceste rezultate, generate în cadrul proiectului PICOCRYPT cu un grant de la Consiliul European de Cercetare, nu numai că îmbunătățesc eficiența și scalabilitatea sistemelor de dovezi criptografice, dar deschid și noi posibilități pentru a garanta integritatea, corectitudinea și confidențialitatea sarcinilor de prelucrare a datelor.