Tag Archives: Kublai

La valutazione è sopravvalutata?

Gli esperti di politiche pubbliche insistono sulla valutazione quantitativa come meccanismo di accountability. La Commissione Europea si è messa alla testa di una campagna per l’adozione di tecniche di valutazione quantativa anche in aree tradizionalmente “morbide” come la coesione sociale o l’innovazione sociale. Il messaggio è semplice: sono tempi duri per i bilanci pubblici. Se volete che finanziamo qualcosa, dovete spiegare perché questa cosa è più importante di altre. Ha senso. Come potrebbe essere sbagliato?

Eppure non sono convinto. La valutazione ha solide basi teoriche quando misura i risultati nella stessa unità in cui è misurato l’input. Il gold standard in questo senso è il famoso rendimento dell’investimento (ROI): investi dollari. Raccogli dollari. Dividi i dollari raccolti per i dollari investiti. Facile. Se investi dollari per ottenere, diciamo, un aumento della popolazione di aironi di una zona umida, o una riduzione attesa dell mortalità del cancro ai polmoni, le cose iniziano a farsi più complicate. E se cerchi di paragonare un aumento della popolazione di aironi con una riduzione della mortalità da cancro ai polmoni si fanno molto più complicate.

Io lo so bene. Sono un veterano di una battaglia molto simile.

Negli anni 80, pensatori influenti come David Pearce, consigliere per l’ambiente della signora Thatcher, gli economisti dell’ambiente hanno tentato di quantificare il valore economico dei beni ambientali. L’obiettivo era di insegnare all’umanità ad abbandonare l’idea che l’ambiente si possa dare per scontato, e a cominciare a trattarlo come una risorsa scarsa. La roccaforte di questa scena era University College London, dove Pearce dirigeva un centro ricerche e un programma di Master. Mi sono iscritto al secondo nel 1992. Il nostro strumento principale era un’estensione dell’analisi costi-benefici, attrezzo ben collaudato dei valutatori dell’era del New Deal. Avevamo tutta una serie di trucchi intelligenti per tradurre i benefici ambientali in dollari o sterline: prezzi edonici, valutazione contingente, metodo dei costi di viaggio. Una volta convertiti in unità monetarie, costi e benefici ambientali potevano essere confrontati con qualunque cosa, rendendo possibile una valutazione rigorosa. O no?

Spostandoci dalle nostre aule londinesi alla pratica, abbiamo scoperto che le cose erano molto più complicate. Anzitutto c’era un grosso problema teorico: cercavamo di emulare i mercati per valutare i benefici ambientali perché, secondo la teoria economica standard, mercati ben funzionanti assegnano ai beni esattamente i prezzi che massimizzano il benessere collettivo. Sfortunatamente, le condizioni matematiche perché questo si verifichi sono molto restrittive, tanto da non verificarsi praticamente mai nella vita reale. Joseph Stiglitz, uno dei miei economisti preferiti, ha vinto un Nobel dimostrando che, rimuovendo una sola condizione (informazione perfetta e simmetrica), le proprietà virtuose dei mercati collassano completamente. In secondo luogo, anche se siamo disposti a un atto di fede nelle fondamenta teoriche, arrivare a quantificare è difficile. Molto. I dati necessari in genere non sono disponibili, ed è molto costoso generarli, quindi molti ricercatori si rifugiavano nei sondaggi di opinione (chiamati “valutazioni contingenti”, che suona più scientifico). Mossa sbagliata: ci siamo impantanati subito nei paradossi di psicologia cognitiva esplorati in dettaglio da Daniel Kahneman e Amos Tversky, che hanno mostrato in modo conclusivo che gli umani non valutano le cose allo stesso modo dei mercati – e hanno vinto un altro Nobel.

In più c’era una situazione politica molto sfavorevole per questo tipo di ricerche. Gli unici soggetti disposti a finanziare generosamente la valutazione ambientale erano le imprese inquinatrici più grandi e aggressive. Un’intera branca della letteratura è fiorita all’ombra del famigerato naufragio della petroliera Exxon Valdez: a Londra studiavamo i papers degli esperti incaricati da Exxon di produrre una valutazione dei danni causati all’ambiente artico da cento milioni di litri di greggio sversati in mare. Questi esperti avevano i mezzi per fare una valutazione vera, ma quelli che li pagavano non erano esattamente neutrali rispetto ai loro risultati. Non deve essere una situazione facile.

Eppure, valutare si doveva. Quindi ci abbiamo provato. E abbiamo scoperto una cosa interessante: con tutti i limiti, facendo un esercizio di valutazione su un progetto arrivi a capirlo molto meglio. Alla fine si ottiene un risultato, e si è in grado di difenderlo. Purtroppo, questo risultato non è mai uno scalare (tipo “questo lago vale 20 milioni di euro”); prende quasi sempre la forma “se realizzi questo progetto guadagnerai A ma perderai B e C”, con A, B e C misurati in unità completamente diverse e irriducibili. Inoltre, gli unici a imparare davvero da una valutazione sono i valutatori: tutti gli altri vedono solo il risultato finale, e non la logica sofisticata che serve per produrlo.

La causa della valutazione come requisito delle opere pubbliche ha fatto progressi innegabili. La valutazione di impatto ambientale, usata in America fino dagli anni 60, è stata resa obbligatoria in Europa per molti progetti pubblici da una direttiva del 1985. Si è investito. Molti consulenti hanno fatto qualche corso improbabile e si sono messi a vendere valutazioni di impatto ambientale. Questo ha favorito l’avvento di una valutazione oggettiva e sorretta dall’evidenza? Non credo. Anche adesso, venticinque anni dopo, ambientalisti e imprese appaltatrici continuano a combattersi in tribunale, ciascuna brandendo la propria valutazione di impatto ambientale, o semplicemente insistendo che l’altra parte ha fatto fare una VIA non imparziale per sostenere la propria posizione (questo è ciò che sta succedendo sul collegamento ad alta velocità Torino-Lione). Questo non significa che la VIA sia inutile: però significa che non è oggettiva. La promessa di valutazione quantitativa e quindi imparziale era illusoria. Sospetto che questo sia non un caso, ma parte della struttura fondamentale della valutazione: valutare, dopotutto, implica valori. Anche il ROI incorpora una serie di valori: in particolare, implica che tutta l’informazione rilevante è contenuta nei segnali di prezzo, per cui se stai facendo soldi vuol dire che stai aumentando il benessere della società.

Sarei curioso di tentare un approccio alternativo alla valutazione: l’emergenza di una comunità che partecipa a un progetto, contribuisce tempo, porta doni. Per esempio, nel corso di un progetto del Consiglio d’Europa che si chiama Edgeryders, ho registrato un breve video introduttivo in inglese. Un membro della nostra comunità lo ha caricato su Universal Subtitles, ha trascritto l’audio in sottotitoli inglesi e li ha tradotti in spagnolo. Due settimane dopo, erano stati tradotti in nove lingue. Cose così non succedono tutti i giorni ai dipendenti pubblici: il nostro piccolo gruppo di eurocrati ne è stato molto felice, ma soprattutto – insieme all’impegno sulla nostra piattaforma online ai continui apprezzamenti su Twitter e ad altre iniziative di comunità come la mappa dell’impegno civile – l’abbiamo preso come un segnale che stavamo facendo qualcosa di buono. Come una valutazione, un voto espresso in tempo-uomo e impegno. Una valutazione di questo tipo non è un’attività eseguita da un valutatore, ma una proprietà emergente del progetto stesso; e quindi rapida, a basso costo, impietosa nei riguardi dei progetti che non riescono a rendere la propria utilità chiara ai cittadini.

Certo, i progetti costruiti intorno a comunità online come Edgeryders o Kublai si prestano particolarmente bene a essere valutati in questo modo – contengono migliaia di ore, donate dai cittadini, di lavoro umano di alta qualità, un’unità di conto naturale per la valutazione. Ma è un criterio che può essere più generalizzabile di quanto sembri. Di recente un amico, che dirige una piccola azienda di software, mi ha stupito con questa considerazione:

Di questi tempi, metà del lavoro di un programmatore consiste nel far crescere e motivare una comunità su Github.

Quindi non è solo un mio errore di prospettiva: in un numero sempre maggiore di ambiti, la complessità dei problemi è diventata ingestibile a meno che non la affronti con gli strumenti dell’intelligenza collettiva, di sciame. Sempre più sono i problemi che possono – e forse devono – essere concepiti in termini di una comunità online che cresce loro intorno. Se questo è vero, quella comunità può essere usata come base di una valutazione. In realtà dovrebbe essere ovvio: non ho mai conosciuto un ecologo o un assistente sociale che pensi che valutare un impatto ambientale o sociale in termini di ROI abbia il minimo senso. Se riusciamo a inventare un percorso teoricamente solido e a basso costo per la valutazione possiamo e dovremmo sbarazzarci del ROI per le attività nonprofit. Non credo ne sentiremo la mancanza.

The apprentice crowdsorcerer: learning to hatch online communities

I am working on the construction of a new online community, that will be called Edgeryders. This is still a relatively new activity, that deploys a knowledge not entirely coded down yet. There is no instruction manual that, when adhered to, guarantees good results: some things work but not every time, others work more or less every time but we don’t know why.

It is not the first time I do this, and I am discovering that, even in such a wonderfully complex and unpredictable field, one can learn from experience. A lot. Some Edgeryders stuff we imported from the Kublai experience, like logo crowdsourcing and recruiting staff from the fledgling community. Other design decisions are inspired from projects of people I admire, projects like Evoke or CriticalCity Upload; and many are inspired by mistakes, both my own and other people’s.

It is a strange experience, both exhalting and humiliating. You are the crowdsorcerer, the expert, the person that can evoke order and meaning from the Great Net’s social magma. You try: you say your incantations, wave your magic wand and… something happens. Or not. Sometimes everything works just fine, and it’s hard to resist the temptation of claiming credit for it; other times everything you do backfires or fizzles out, and you can’t figure out what you are doing wrong to save your life. Maybe there is no mistake – and no credit to claim when things go well. Social dynamics is not deterministic, and even our best efforts can not guarantee good results in every case.

As far as I can see, the skill I am trying to develop – let’s call it crowdsorcery – requires:

  1. thinking in probability (with high variance) rather than deterministically. An effective action is not the one that is sure to recruit ten good-level contributors, but the one that reaches out to one thousand random strangers. Nine hundred will ignore you, ninety will contribute really lame stuff, nine will give you good-level contibutions and one will have a stroke of genius that will turn the project on its head and influence the remaining ninety-nine (the nine hundred are probably a lost cause in every scenario). The trick is that no one, not even him- or herself, knows in advance who that random genius is: you just need to move in that general direction, and hope he or she will find you.
  2. monitoring and reacting rather than planning and controlling (adaptive stance). It is cheaper and more effective: if a community displays a natural tropism, it makes more sense to encourage it and trying to figure out how to use it for your purposes than trying to fight it. In the online world, monitoring is practically free (even “deep monitoring” à la Dragon Trainer), so don’t be stingy with web analytics.
  3. build a redundant theoretical arsenal instead of going pragmatic (“I do this because it works”). Theory asks interesting questions, and I find that trying to read your own work in the light of theory helps crowdsorcerers and -sorceresses to build themselves better tools and encourages their awareness of what they do. I am thinking a lot along a complexity science approach and using a little run-of-the-mill network math. For now.

These general principles translate into design choices. I have decided to devote a series of posts to the choices my team and I are making in the building of Edgeryders. You can find them here (for now, only the first one is online). If you find errors or have suggestions, we are listening.

Three futures for Kublai

Kublai Camp 2011 is happening today; it is the third of its kind and the first one that I can’t take part in.. My friend Tito Bianchi at the Ministry of Economic Development asked me to make a short video to tell the people convened how I would envision Kublai’s future. I am happy to oblige: in the video above (Italian language) I outline three scenarios, two of which I would approve of and one I would not. They are:

  1. shutdown at the end the next cycle and move on. We have gained a lot of useful knowledge we can deploy elsewhere, and that was the whole point of the exercise.
  2. devolution of the project to its community, maintaining its public mission. This would be an extraordinary outcome: a public policy so appreciated that its beneficiaries step in to do the heavy lifting themselves. But it is a tricky one to pull off, and at this point in time I deem it unlikely to happen for reasons I explain in the video.
  3. entrenchment and drift of Kublai into a kind of business planning online help desk, feeding into the plethora of contests for startups, creative projects etcetera. I think this outcome would be tired and – in the context of Italy’s constitutional architecture – not suited to a central government agency. I think it should be avoided.

I am curious to see what happens. More info on Kublai here.