Resum del cas: estudiantat i professorat de la UX, amb la col·laboració d’una ONG guanyen amb el projecte AegisSight el concurs d’iniciatives de compromís social convocat per la UX. La proposta és desenvolupar una IA d’anàlisi d’imatges que millora sensiblement el seguiment de moviments de persones a les fronteres de la UE. Un treballador de la universitat impugna el resultat al·legant que afavoreix la migració il·legal i el porta al comitè d’ètica.

Expedient 2027/05 Data d’entrada: 1/10/2027 Data de resolució: 1/12/2027

Persones i òrgans implicats:

• Estudiantat del grau en ciència de dades de la UX
• Professorat de la UX que promou la iniciativa
• Comissió d’avaluació de la UX que avalua el projecte
• Equip tècnic de la UX que prepara la convocatòria
• Unitat de mediació de la UX
• Equip directiu de la UX

Explicació del cas

La UX convoca des de fa 8 anys un concurs d’iniciatives de compromís social que neixen de la mà d’estudiants i professorat i que amb una ONG treballen plegats per aprendre mentre resolen problemes de caire social. . La problemàtica era detectar persones en trànsit de frontera per donar-les suport (menjar, refugi…) i evitar abusos per part de la policia de frontera o les màfies organitzades. La ONG aportava imatges captades per drons i l’equip del grau en ciència de dades les analitzava i tractava per millorar el temps i la qualitat de la resposta.

La comissió d’avaluació -un 80% de la puntuació- formada per professorat de la UX. La iniciativa queda entre les 5 primeres de la modalitat de propostes propostes que passen a la fase de votació de la comunitat UX. Un cop feta la votació, surt guanyadora aquesta iniciativa. Aquesta modalitat està dotada amb 5000€ per desenvolupar una prova de concepte al departament del professorat implicat.

Un treballador de la universitat, en assabentar-se del resultat, considera que aquesta iniciativa és il·legal es podria fer servir per determinar on és la policia de frontera i establir rutes segures per les persones en trànsit afavorint així migració il·legal. Considera que la ONG -tot i estar reconeguda- pot vulnerar la legislació i que és un cas per treballar des del comitè d’ètica de la universitat.

Proposta de solució

Un cop estudiat el cas i consultades fonts expertes en dret internacional, dret d’asil polític i en tecnologies d’IA i de visió per computador, i escoltades les diferents parts implicades, el comitè d’ètica considera que mentre l’objecte del projecte sigui:

1. L’assistència humanitària: el subministrament de roba, aliments, atenció mèdica o primers auxilis a la frontera està clarament protegida pel dret humanitari,
2. El monitoratge i denúncia de violacions de drets: recerca i documentació de males pràctiques per part de les administracions o de màfies que trafiquen amb persones,
3. El processament de les dades recollides per l’ONG (testimonis, proves), convertint-les en informes jurídics i acadèmics per a la denúncia davant d’organismes internacionals o Defensors del Poble,

no hi ha d’haver impediment legal o ètic en atorgar el reconeixement.

Aclarits aquests termes, el comitè d’ètica proposa al rectorat que mantingui la resolució prèvia tot i que suggereix que en el conveni de col·laboració entre ambdues entitats s’afegeixi una clàusula que comprometi a fer un ús lícit de la tecnologia a desenvolupar.