Implementarea inteligenței artificiale (IA) în medicină, în special pentru diagnosticarea cancerului de piele, ridică semne de întrebare din cauza preciziei scăzute și a potențialei discriminări. Algoritmul Quantus Skin, conceput pentru a detecta melanomul, greșește în una din trei cazuri și tinde să ignore pacienții cu piele închisă la culoare.

Regiunea Țării Bascilor (Spania) a investit 1,6 milioane de euro în implementarea Quantus Skin în centrele medicale. Cu toate acestea, conform unui studiu, algoritmul prezintă o sensibilitate scăzută (69%), ratând 31% din cazurile reale de cancer de piele. Experții, inclusiv dermatologi, își exprimă îngrijorarea cu privire la acuratețea sistemului, subliniind nepotrivirea acestuia pentru screening.

Una dintre problemele cheie este părtinirea algoritmului. Quantus Skin a fost antrenat pe date care reprezintă în principal pacienți cu piele deschisă la culoare, ceea ce duce la o acuratețe redusă a diagnosticului la persoanele cu o nuanță mai închisă a pielii. Acest lucru subliniază importanța datelor incluzive pentru instruirea IA și necesitatea de a ține cont de diferite grupuri etnice.

Criticii subliniază necesitatea de a îmbunătăți sensibilitatea algoritmilor, în special pentru diagnosticarea precoce, pentru a evita consecințele fatale. În ciuda asigurărilor dezvoltatorilor, astfel de deficiențe ridică întrebări serioase cu privire la fezabilitatea utilizării Quantus Skin în forma sa actuală.

În concluzie, implementarea IA în domeniul sănătății necesită o analiză atentă, inclusiv o evaluare a acurateței, a părtinirii și a potențialului impact asupra diferitelor grupuri de populație. Problemele identificate în munca Quantus Skin subliniază importanța dezvoltării unor algoritmi mai fiabili și mai incluzivi pentru a asigura asistența medicală corectă și eficientă.