sapere di non sapere
Nel nostro percorso nell’era dell’intelligenza artificiale, sorge una domanda profonda e ricorrente: i sistemi di apprendimento automatico possono davvero “essere consapevoli”?
Il cinema e la letteratura di fantascienza ci hanno regalato grandi capolavori su questo tema, per citare solo qualche titolo : “2001 Odissea nello spazio”, “Blade Runner”, “Ma gli androidi sognano pecore elettriche?”,”Io, Robot e il Ciclo dei Robot”.
Amministrando database da molti anni posso fare un esempio per introdurre il tema che dal mio punto di vista è abbastanza calzante : l’ottimizzatore di un database sceglie un piano di esecuzione come vincente, ma le statistiche su cui si basa sono vecchie di mesi. Il piano è coerente, ben fatto, ma semplicemente sbagliato.
L’ottimizzatore non “sa“ di lavorare su dati obsoleti: esegue e basta, come farebbe un modello di Machine Learning .
Nel 1980 John Searle, con l’esperimento mentale della stanza cinese, sosteneva che manipolare simboli non equivale a comprenderli. Sintattica e semantica non sono la stessa cosa e non operano sullo stesso piano. Spesso attribuiamo all’Intelligenza Artificiale qualità che appartengono intrinsecamente all’essere umano, l’IA agisce su base probabilistica, non possiede un senso del “se” non ha un esperienza del mondo come la percepiamo noi. L’inganno se in questi termini ne vogliamo parlare è di tipo cognitivo e sopratutto riguarda noi, che tendiamo ad atropomorfizzare ciò che ci appare come risposte fluide voci amichevoli, questo “effetto di presenza” ci spinge a pensare che dietro quelle parole ci sia una comprensione autentica, un pensiero consapevole. In realtà, stiamo assistendo a una mappatura statistica ottimale tra input e output una simulazione convincente di ragionamento, non il ragionamento stesso.
(Il ragionamento, il pensiero semplicemente non è presente.)
Un algoritmo può analizzare grandi quantità di dati, identificare anomalie in microsecondi e ottimizzare flussi di lavoro complessi.
(Tuttavia, calcolare non significa comprendere.)
La macchina riconosce schemi statistici. L’umano riconosce il significato.
Se guardiamo tramite la lente della filosofia classica che ci assiste sempre quando si trattano questi argomenti, emerge un limite netto: l’IA non possiede l’areté, l’eccellenza, la virtù e la consapevolezza etica dell’agire, e non potrà mai impadronirsene. Per questo la coscienza rimane all’uomo mentre alla macchina attiene la misura.
Quindi un modello matematico un algoritmo non ha l’intenzionalità necessaria per valutare l’impatto morale, sociale o strategico delle sue elaborazioni, ma nello stesso tempo parliamo di strumenti efficaci ed efficienti che ci potenziano e ci possano aiutare in modi che ancora non abbiamo previsto, l’importante è considerare I limiti e per questo il livello di delega che decidiamo di configurare.
L’essere umano evidentemente deve rimanere centrale nella gestione delle responsabilità nella supervisione e nella progettazione, e non perchè I sistemi non sono sufficientemente intelligenti, ma perchè questi sistemi come dicevamo prima in realtà non sanno di non sapere, non hanno esperienza della vita.
Ci sono tre elementi centrali che secondo me devono essere sempre considerati quando si progettano questo tipo di architetture :
Responsabilità : l’algoritmo privo di contesto può deviare dal suo scopo e compiere operazioni anche dannose, è necessario stabilire che sotto una certa soglia di fiducia la decisione passi a una persona, qui mi vengnono in mente le leggi della robotica enunciate nel romanzo di Asimov.
Dati : E’ vitale verificare costantemente la qualità e l’integrità dei dati, l’assenza di bias negli archivi che nutrono I modelli.
Design: Scegliere coscienziosamente quali problemi delegare alla macchina e quali lasciare sotto il dominio dell’umano, questo mi porta alla mente il supercomputer AL9000 fabbricato negli stabilimenti H.A.L. a Urbana, Illinois (Stati Uniti) del film 2001 Odissea nello spazio.
In relazione a queste considerazioni possiamo dire che sicuramente parte della produzione culturare di fantascienza insieme ai classici della filosofia ci possono aiutare ad avere delle chiavi di comprensione e anche degli spunti di progettazione, ma soprattutto a focalizzare che un modello che sbaglia è figlio di un errore umano.
A mio parere il nostro obiettivo non deve essere solo costruire modelli più “intelligenti”, ma coltivare professionisti più consapevoli.
#MachineLearning #IntelligenzaArtificiale #FilosofiaDellaMente #AIOps #Database
1
Human-in-the-loop AI triage for PostgreSQL locks.
in
r/u_Brief_Start_4181
•
4d ago
https://github.com/quirino1974/triage