Tre miti su bambini e algoritmi

Cosa hanno in comune YouTube Kids e ClassDojo?

Man mano che sempre più sviluppatori perfezionano le loro analisi dell’apprendimento, i sistemi di gestione delle classi e le raccomandazioni di lettura personalizzate, pensiamo in modo critico alle ipotesi più ampie alla base dell’attuale progettazione degli algoritmi.

Non c’è dubbio che gli algoritmi sono vitali per la funzionalità di Internet. Attraverso l’apprendimento automatico, gli algoritmi possono automatizzare le ricerche e attingere ai big data per fornire raccomandazioni personalizzate che potrebbero rendere più efficace l’apprendimento dei bambini. Ma la frase “Algoritmi BIBO” (Bias In e Bias Out) spiega opportunamente che anche gli algoritmi più potenti sviluppati dal gruppo FANG (Facebook, Amazon, Netflix e Google) non sono privi di errori e pregiudizi.

Il desiderio dell’industria di educare i bambini e rimuovere pregiudizi è lì, ma il problema è troppo grande per essere risolto dall’oggi al domani. L’evidenza di pregiudizi inconsci e persino intenzionali propagati dall’IA nei sistemi per gli adulti dovrebbe essere un avvertimento sufficiente prima di entrare nell’educazione algoritmica. Ecco alcune domande che gli adulti potrebbero porre e alcuni fraintendimenti per aiutarci a valutare l’importanza degli algoritmi nell’apprendimento dei bambini:

1. L’introduzione di algoritmi per la nostra classe / famiglia migliorerà l’apprendimento dei bambini.

• Fallimento delle terapie basate sul comportamento
• Perché i film di e sulle donne sono cruciali per la nostra coscienza
• I tuoi sentimenti ti tengono in ostaggio?
• Le voglie di cocaina possono essere bloccate, stiamo battendo la dipendenza?
• Esercizio: una terapia efficace per l’umore depresso

Il problema delle raccomandazioni personalizzate è stato completamente esposto in relazione alle bolle dei filtri online. Poiché gli algoritmi sono progettati per aggregare contenuti simili, creano echo chambers sui social media e nei feed di notizie. Adottare lo stesso design per l’apprendimento significa che i bambini sono meno esposti alle sfide cognitive e alle cose che non gli piacciono. Questo potrebbe essere utile per la loro motivazione e impegno, ma per imparare ad attaccare, i bambini dovrebbero essere dotati di concetti che allungano le loro menti, e non sempre corrispondono alle loro preferenze.

Alcuni provider riconoscono queste limitazioni e, invece di personalizzare il contenuto, i loro algoritmi consigliano gli stessi argomenti a un ritmo diverso o in una sequenza diversa. Gli algoritmi più avanzati iniziano ad ampliare gli orizzonti dei bambini in quanto raccomandano il contenuto di difficoltà gradualmente crescente. Questo, tuttavia, potrebbe funzionare solo in un ambiente di apprendimento adatto, in cui vi è un database solido per accogliere i migliori e più bassi successori. Sarebbe fin troppo ambizioso, in questa fase, aspettarsi un algoritmo così sofisticato per l’intero sistema educativo senza imbattersi nel problema delle notizie false.

2. Le raccomandazioni personalizzate democratizzano l’apprendimento dei bambini.

• Camminando verso le città amichevoli per l’età
• 6 strategie per aumentare la felicità ora
• Psicologia evolutiva e mondo digitale
• Puoi sentirti più vivo al lavoro?
• Meditazione assistita dalla tecnologia

Quando accediamo a Internet, utilizziamo tutti algoritmi e il nostro uso continuo li rende più intelligenti. In particolare, l’attuale base di utenti è sproporzionatamente più grande della base di sviluppo degli algoritmi. Un sacco di decisioni che colpiscono miliardi di persone in tutto il mondo sono fatte da poche migliaia di persone. Di conseguenza, i giganti della tecnologia sono un passo avanti rispetto alla comprensione del pubblico generale su come funzionano gli algoritmi. Perfino alcuni senatori statunitensi non sembrano sapere come funziona l’economia algoritmica, come dimostrato durante l’udienza del comitato del Senato di Mark Zuckerberg.

DigiLitEY: bambini e algoritmi

Fonte: Natalia Kucirkova, DigiLitEY

In parole povere, l’attuale struttura degli algoritmi è meritocratica, non democratica. Applicato all’educazione, significa che quelli con un vantaggio iniziale, vale a dire quelli che hanno qualche conoscenza pregressa, trarranno beneficio e potranno sviluppare ulteriormente tale conoscenza. Questo perché gli algoritmi si adattano al bambino, non istruiscono il bambino. Se gli algoritmi fossero stati progettati con principi democratici in primo luogo, sarebbero stati trasparenti in base alla progettazione e maggiormente orientati alla comunità. Chiunque sarebbe in grado di vedere cosa viene raccomandato e perché. Chiunque sarebbe in grado di alterare i meccanismi e il loro potere sarebbe equamente distribuito equamente.

3. Algoritmi garantiscono la sicurezza online dei bambini.

Per evitare la proliferazione di video inquietanti rivolti ai bambini, sia Google che Facebook hanno investito in un gran numero di moderatori e controllori di contenuti umani. Tuttavia, anche gli amministratori di YouTube for Kids ammettono correttamente che “nessun filtro è accurato al 100%”. Quindi il pieno affidamento sulla “modalità limitata” di YouTube non garantisce che tuo figlio non veda i video di Peppa Pig che disturbano. È semplicemente un dato di fatto che ci sono più potenziali creatori di contenuti e, purtroppo, molti con cattive intenzioni, rispetto a quelli che vorrebbero segnalare video che abusano. Il divieto e la censura da parte di organismi di regolamentazione nazionali e internazionali non è una soluzione completa. Sarebbe un passo indietro per incoraggiare un modello che garantisca la sicurezza dei bambini a scapito della libertà di esplorare. Sarà necessario sviluppare una nuova suite di algoritmi, controlli di qualità e regolamenti comunitari per garantire un equilibrio tra contributi creativi e protezione degli utenti vulnerabili.

Spesso ci viene detto che “l’intelligenza artificiale è il futuro”, ma anche che “una manciata di aziende tecnologiche controlla milioni di menti”. Se vogliamo che gli algoritmi AI migliorino il futuro per tutti i bambini, dobbiamo toccare il pulsante di pausa sull’infanzia algoritmica e pensare in modo critico a ciò per cui cattura l’attenzione dei bambini. Abbiamo bisogno di algoritmi trasparenti che abbinino contenuti accuratamente selezionati alle preferenze e ai bisogni dei bambini con quelli della comunità più ampia. Questa non è una visione idealizzata e tecnofila di alcuni accademici. È una condizione essenziale per garantire che l’istruzione personalizzata non si trasformi in istruzione commerciale.

Riferimenti

L’ufficio del commissario per l’infanzia (2018). Chi sa cosa su di me? Un commissario per bambini riferisce nella raccolta e nella condivisione dei dati dei bambini, https://www.childrenscommissioner.gov.uk/wp-content/uploads/2018/11/who-knows-what-about-me.pdf

Kucirkova, N., Fails, J., Pera, S. Huibers, T. (2018) Algoritmi per i bambini: cosa devono sapere i genitori e gli educatori, DigiLitEY, Regno Unito: http://digilitey.eu/publications/digilitey-publications

Manolev, J., Sullivan, A. & Slee, R. (2018) Il datafication della disciplina: ClassDojo, sorveglianza e una cultura della classe performativa, Apprendimento, media e tecnologia, DOI: 10.1080 / 17439884.2018.1558237