El nou panorama de la gestió empresarial: l’ús de la modelització, el big data i la intel·ligència artificial

Ramon Trias i Capella. President d’AIS Group

Resum

Les empreses catalanes es troben en un moment de canvi. Fins ara fa poc, per tenir èxit en el negoci un factor molt important eren les habilitats personals del gerent. Ara amb la facilitat d’accés a la informació, el gran volum de dades que tenim dels clients i el seu comportament i la capacitat de la tecnologia, és el moment de passar a ser empreses data-driven, empreses que prenen decisions basades en dades, doncs explotar tota la informació disponible els facilita una gestió més eficaç.

L’ús de les tècniques de big data, models machine learning i en general la modelització s’obre pas a totes les àrees i sectors empresarials.

Vull agrair molt especialment la col·laboració de la Lluïsa Parés, la Macarena Suanes, la Raquel Guardia, la Pilar Mateo i la Lourdes Petit en aquest article. Sense el seu suport hagués estat molt més difícil poder realitzar-lo.

“Si hi ha una lliçó d’aquests darrers 20 anys és que no és una qüestió tecnològica sinó de transformació, de canviar la forma en que es col·lecten i s’utilitzen les dades de la gent per a millorar llurs vides.”

Siim Sikkut, Conseller d’Informació del Govern d’Estònia

1. Introducció

Les noves tecnologies de modelització, Big Data i Intel·ligència Artificial , tot i no sent ni molt noves ni alienes a la utilització per part de les empreses i del sector públic, han rebut una gran embranzida a tots els sectors com a conseqüència de la millora en les capacitats de còmput, emmagatzemament i transmissió. Això comporta canvis en els processos, en la gestió i fins i tot en l’estructura de les empreses. En aquest paper sintetitzarem els conceptes bàsics d’aquestes tecnologies i com transformen els models empresarials tradicionals.

Quan parlem de panorama enfront de la gestió empresarial, haurem de comptar amb les modificacions que es produiran en la forma d’operar per l’empresari o alt directiu, però també en els canvis que aquestes hauran de provocar en la organització, propiciant la renovació dels procediments i dotant aquestes noves funcions amb el personal qualificat.

Aquests canvis no són només substituir una forma de realitzar una operació per a fer-la d’una altra manera. Implica una transformació també en els protocols adjacents a la funció que es canviarà. És particularment important assumir que la introducció d’aquestes noves tecnologies requerirà d’una forma nova de control de les decisions, doncs són notoris els biaixos que els sistemes d’autoaprenentatge poden arribar a produir.

No menys important és el fet que les noves tecnologies provoquen canvis en l’estructura econòmica, particularment en la dimensió de les empreses i cal tenir en compte la repercussió que això comporta.

Així, en aquesta comunicació identificarem primer l’efecte que s’hi produirà sobre les tasques dins l’empresa -des de la direcció fins la recepció- com a conseqüència de canvis en la forma de cobrir aquestes funcions i també els canvis que aquestes mateixes funcions tindran com a conseqüència de les alteracions en el tramat empresarial.

Tractarem els reptes mes importants als que el director, executiu o empresari haurà de fer front per a treure avantatge d’aquesta tecnologia.

2. Impacte de la IA en les funcions empresarials

2.1 Un article que deixa rastre. Professions en perill

El 47% de les professions als Estats Units estaran en perill en els propers deu anys com a conseqüència de la computerització. Aquesta era l’afirmació explosiva d’un article publicat per dos professors d’Oxford (Frey & Osborne, 2013), que ha fet soroll, tot i que una rèplica procedent de la OCDE (Arntz, Gregory, Zierahn, 2016) critica el mètode científic emprat i ho ressitua al 8% de les professions.

El que és molt interessant d’aquesta reflexió és el fet de centrar-la en el desenvolupament dels nous avenços en robots mòbils (MR) i intel·ligència artificial (IA), particularment aprenentatge automàtic o machine learning (ML), que substitueixen una altra categoria de feina que qualifiquen de no repetitiva i composta de fets i raonaments que no poden posar-se en seqüència per a portar-la a terme.

Els moviments sistemàtics del teixidor podien ser substituïts pels telers i, fins i tot en entramats més complexes, es podien programar a les maquinetes de lliços o en els telers Jacquard. En un altra escenari, les factures o la comptabilitat es van poder dur a terme amb l’ajut de les màquines comptables i els ordinadors, que van anar substituint treball administratiu per processos electrònics.

En ambdós casos, les accions podien ser descompostes en regles o sentències simples que havien d’executar-se en seqüència. És a dir, l’una darrera l’altre, tot i que hi podien haver decisions simples que encaminaven el programa en una direcció o altre. Això era totalment coherent amb l’arquitectura d’ordinadors que hem conegut fins avui, que és una màquina d’estats (Turing, 1950 ; Von Newman,1945).

Així i tot, ja hi havia la consciència entre la comunitat científica de que hi havia altres formes d’implementar la intel·ligència que primàriament no utilitzaven la forma de càlcul seqüencial. De fet, el mateix Alan Turing és considerat el pare de la intel·ligència artificial. Per una altra banda, ja es va veure que aquestes formes de computar podien ser simulades amb l’arquitectura de Von Newman.

Però la potència de les màquines no ha estat capaç de realitzar aquestes simulacions fins a dates recents. I és que avui dia es poden posar en pràctica algorismes, tècniques i mètodes capaços de solucionar amb gran eficàcia problemes d’alta complexitat, com el tractament de la imatge, l’animació, el so i la veu, utilitzant ordinadors comercials. Tan és així que un problema que requeria un mes a resoldre’s en un ordinador potent, avui no necessita més de deu segons en un portàtil domèstic.

Així doncs, apareixen noves capacitats dels ordinadors per a imitar tasques que abans eren fora de l’abast.

Aquests nous avenços es tradueixen en capacitats tals com identificar cares, entendre texts amb certa profunditat, reconèixer i entendre veu, entendre imatges estàtiques o en animació, traduir, però també aplicacions més numèriques, com projectar sèries amb aparença caòtica, optimitzar en esquemes complexes, com pot ser una taula d’activitats per una plantilla nombrosa o aplicar control òptim en un procés reactiu.

Quines són les tasques –com a part de les professions- que resulten afectades segons Frey i Osborne:

Trias 2018b-image1.png

Font: The Future of Employment ; Benedikt Frey & Osborne, 2013

Un primer anàlisi ens porta a veure que les professions relacionades amb l’educació, els serveis legals, els serveis a la comunitat, l’art i els mitjans de comunicació són les que tenen una probabilitat més baixa de ser substituïdes. Molt a prop estan les vinculades a la gestió qualificada, als negocis i finances, així com amb la salut i les ciències de computació, enginyeries i ciències.

En l’annex de l’article de referència, apareix la llista ordenada per probabilitat de ser computeritzats. Dels 702 casos, separem els qui tenen menys d’1 % de probabilitat, on es poden veure l’especificació del que apuntàvem prèviament. En el quadre següent tenim una mostra:

Trias 2018b-image2.png

Font: The Future of Employment ; Benedikt Frey & Osborne, 2013

A l’altre extrem de la balança hi trobem primer, el suport administratiu, seguit pels serveis i les professions relacionades amb les vendes. Amb menys pes, un cert nivell de gestió, negocis i finances i, encara menor, les tasques de producció, de transport i de logística. Per professions, els més desfavorits, en la taula següent tenim una mostra:

Trias 2018b-image3.png

Font: The Future of Employment ; Benedikt Frey & Osborne, 2013

2.2 Què entenem per modelització, big data i intel·ligència artificial.

Modelització és crear un model teòric d’alguna cosa. En el cas que ens ocupa, a partir de dades empíriques que apliquen a activitats empresarials: producció, comercialització, màrqueting, logística, finances... Tot i que el concepte no és nou, la capacitat dels actuals instruments -potents mitjans de còmput i d’emmagatzemament- permeten operar amb més variables, amb més interaccions entre elles i també amb un major nivell de desagregació sectorial o geogràfica.

Big Data fa referència l’emmagatzematge, tractament i recuperació de grans masses de dades. Però no és només el volum el que caracteritza aquest concepte, també la diversitat de la naturalesa de les dades i també la seva estructura. Naturalesa vol dir dades d’imatge (estàtica, vídeo), de so, text, veu i de dades. Estructura vol dir dades tabulars, presentació en mapes, dades en streaming, o bé relacions en xarxa i comportaments en seqüències d’accions i reaccions.

La digitalització ha resultat una font immensa de dades que flueixen constantment en forma de veu, relacions entre elements de la comunicació, seqüències d’accions i respostes... el que fa que aquesta enorme riquesa pugui esdevenir un cost inútil si no es tracta correctament.

Intel·ligència artificial vol dir la utilització dels dispositius de TI que imiten la capacitat humana de raonar. Aquest ha estat molt temps una mena de calaix de sastre on s’ajuntaven tècniques, algorismes i aproximacions aplicades a imitar el raonament (càlcul de predicats, sistemes experts); la comprensió (xarxes neuronals); l’evolució (algorismes genètics, colònia de formigues o recuit simulat); traducció, entesa o classificació del llenguatge (Natural Language Processing, com és l’anàlisi semàntic o baròmetre de sentiments); sistemes de classificació (CaRT, ExtremeGradientBoosting, Random Forest, Support Vector Machines); regressions complexes (Partial Least Squares) i molts d’altres.

En general, aquests sistemes tenen més capacitat d’encert que els sistemes més clàssics de l’estadística, doncs poden incorporar en l’anàlisi moltes més interaccions entre les variables originals, tot i que per contra això fa més difícil distingir entre la causalitat i la casualitat. Tot i que és ara que aquests sistemes estan en boca de tothom, són sistemes que han estat creats entre setanta i trenta anys enrere, però els avenços en capacitat de càlcul, emmagatzematge i transmissió en els computadors han propiciat l’expansió que viuen avui.

2.3 La Gestió Empresarial

Entenent que la gestió empresarial és aquella activitat desenvolupada per professionals especialitzats, tals com directors, executius, consultors, productors, gerents i, sobretot, empresaris, que busquen fer evolucionar un negoci millorant la productivitat i la competitivitat, seguint l’estratègia assignada.

Dins aquest concepte, hi caben tots els nivells on es prenen decisions que afecten al bon funcionament de l’empresa: des de la línia frontal, fins els nivells més alts, és a dir front-office fins C-Suite, or C-Level, (CEO, CFO, COO, CIO per Chief Executive Officer, Chief Financial Officer, etc.)

2.3.1 En què pot ajudar a la soledat del manager.

Segons l’enquesta sobre “How Artificial Intelligence Will Redefine Management” portada a terme a l’Accenture Institute for High Performance” (Kolbjørnsrud Amico & Thomas, 2013), la distribució del temps a l’agenda dels gerents i directors està fortament polaritzada just a la dedicació que pot gaudir més de l’aplicació de les eines d’IA: coordinació administrativa i control. De fet, la integració d’eines de Business Intelligence, els informes d’excepció, els sistemes de normativa en regles de negoci, el control del frau, i l’automatització dels informes pel supervisor extern (en els sectors on aplica), poden reduir significativament el temps a dedicar a aquests afers.

Trias 2018b-image4.png

Plans estratègics i projecció de estats comptables, combinant models macroeconòmics integrats amb projecció condicionada a escenaris amb models microeconòmics (que lliguen les variables macroeconòmiques amb les variables significatives del projecte d’inversió, del Pla de Negoci o del Pla Estratègic que estigui en estudi), és una altre exemple d’ajuda a la decisió. Una il·lustració d’aquest tema es pot trobar a Strategic Advisor (Trias, Aguirre, 2015).

També en la mateixa línia estan els sistemes per a facilitar la selecció de nous recursos humans interpretant els currículums presentats o tractant la imatge o la veu per telèfon, o bé l’elaboració de taules horàries per complexes organitzacions. Un exemple ha estat la taula d’esdeveniments als Jocs Paralímpics, desenvolupada per primer cop a Barcelona ’92, utilitzada a Atlanta i a Sidney on, a diferència de Seül, es va aconseguir per primer cop una taula horària totalment estable en un temps i esforç rècords (Rosselló, Trias, 1995).

Es poc freqüent parlar de productivitat de les tasques de gestió, però aquestes aplicacions permeten uns excedent de temps que poden aplicar-se a exploracions més sofisticades, assajant polítiques, confrontant-les amb diferents escenaris, amb anàlisi de tensions -stress testing- o de pitjor cas molt mes útils enfront d’un futur en que l’aleatorietat està deixant cada cop més espai per la incertesa. Les eines utilitzades en aquest context serviran –i han servit– per millorar la productivitat i la qualitat de servei a la més alta direcció de les empreses.

2.3.2 Aplicacions ja en marxa

L’altra cara de la moneda és la implementació d’aquestes tecnologies com a eina de productivitat en l’operació de la companyia. No és pas un tema que vingui de nou, però és especialment rellevant en el context que estem tractant. En general, no pertany a les tasques de direcció, però si formen part del canvi que ha de ser promogut des d’aquest nivell.

De fet, algunes d’aquestes aplicacions desenvolupades amb eines estadístiques o de Machine Learning de complexitat algorísmica controlada ja tenen una llarga història, explotant al màxim les capacitats de còmput de que es disposava a cada moment.

El que estem vivint avui és la generalització de les aplicacions que amb mitjans més heroics es portaren a terme des de fa trenta anys...

En molts casos, les eines van ser netament d’intel·ligència artificial instal·lades sobre sistemes comercials: Artificial Neural Nets, Expert Systems, CaRT, PLS, Genetic Algorithms, que avui encara formen part de les eines de Machine Learning.

Actualment podem veure aplicacions en diferents graus de desenvolupament en moltes indústries, a diferents parts del món. Una compilació pot ser:

Trias 2018b-image5-c.png


Trias 2018b-image5-c1.png
Trias 2018b-image6.png


Font: AIS Aplicacions d’Intel·ligència Artificial – Jornades dels Economistes - 2017

2.3.3 Les noves tecnologies de la Informació a les empreses catalanes

Per a fer una anàlisi del impacte de la IA i tecnologies afins a l’economia catalana, convé analitzar-ho en dues vessants, si bé que relacionades: les empreses que es dediquen com a activitat principal al desenvolupament de plataformes, i aplicacions d’aquestes tecnologies i de la utilització que se’n fa en empreses productives que les incorporen com a eina en el seu sistema de gestió.

Pel que fa a les activitats de la IA com a activitat industrial en sí mateixa, hem de reconèixer una llarga història i un interès que neix ben a prop dels orígens d’aquestes tecnologies. Destacaria la llarga història de l’Institut d’Investigació de Intel·ligència Artificial (IIIA), fundat al 1985, del CSIC, actualment agregat a la UAB. aquest institut va ser fonamental en el desenvolupament de la IA a casa nostra, particularment en els mètodes basats en raonament i lògica. Junt amb aquest membre destacat, cal nomenar la Associació Catalana d’Intel·ligència Artificial (ACIA) amb una important participació de la UPC i de la UOC. En aquest sentit, en són una referència internacional en llenguatge natural, imatge i aprenentatge automàtic.

Però el que resulta més sorprenent és l’existència molt d’hora en el nostre país d’empreses privades que van basar el seu model de generació de valor en l’aplicació d’aquestes tecnologies. A mitjans dels 80 van haver-hi tres companyies, AIS, AIA i Intersoftware que van ser capdavanteres en aquests temes.

Entre d’altres mèrits assolits per aquestes empreses hi podem apuntar la introducció i difusió dels sistemes algorísmics per control de risc de crèdit a Catalunya i a l’estat espanyol, a Mèxic, a Argentina i en altre grau fins a vint països; sistemes de recuperació del black-out exportats als EEUU; control òptim en producció elèctrica; préstecs proactius d’algunes de les principals entitats de crèdit a l’estat espanyol i a països d’Amèrica Llatina; tractament del llenguatge natural; lluita contra el frau, també contra el blanqueig de diners; creació i segmentació de grans bases de dades; i optimització d’assignació de recursos entre d’altres. Especialment rellevant, la immensa i complexa taula horària dels Jocs Paralímpics de Barcelona el 1992, que va ser desenvolupada amb eines d’IA i després exportada a Atlanta (1996) i Sidney (2000).

Una característica uneix les empreses de Catalunya mencionades: feien (i fan) les coses per a produir valor. És a dir, la major part dels ingressos provenen, des dels seus orígens, de projectes que cobrien necessitats reals.

Diversos factors configuren avui una bona oferta en aquest camp: el paper de les universitats, generant màsters i doctorats en aquesta línia; la febre de les start-ups, disparades per l’excés de liquiditat del sistema; i el renaixement de la família de tècniques relacionades amb IA tan prometedores com big data, data mining, machine learning i deep learning, han generat un interès creixent de noves empreses. Nogensmenys, el paper de la Generalitat ha estat molt decisiu, a traves del Smart Catalonia ha donat suport al Centre d’Excel·lència de Big Data de Barcelona i al Cluster Digital de Catalunya. Ha estat una iniciativa d’aquests centres l’Enquesta Big Data Catalonia, que ens mostra una molt bona posició en aquest camp a casa nostra.

Segons aquesta enquesta, el nombre d’empreses dedicades s’ha duplicat en aquests dos darrers anys, arribant a mes de 113 a febrer d’aquest any, amb molta concentració al sector de Tecnologies de la Informació i l’orientació dels seus serveis especialment al sector de retail, tot i que els desenvolupaments interns fan pensar en una utilització d’aquesta tecnologia pel sector financer i assegurador.

Pel que fa a la utilització d’aquestes tècniques en empreses catalanes, qui està avançant més en la seva utilització ha estat el sector financer. La utilització de sistemes estadístics i tècniques de classificació automàtica supervisada té ja una llarga història que es reforça, com a tot arreu, quan la regulació bancària introdueix el concepte de modelització als acords de Basilea II, que van reforçar la utilització a gestió i a supervisió d’eines que avui són la via per la qual estan començant a incorporar-se els sistemes de machine learning més sofisticats. Seguint el mateix camí i per raons semblants, estan les empreses asseguradores. En ambdós casos, l’aplicació de la IA ha posat el focus en el tractament del risc. Previsions, carterització i objectius han estat també objecte d’aquestes tecnologies.

L’aplicació d’aquestes eines per part de les grans empreses immobiliàries del nostre país ha estat capdavantera. Els sistemes de AVM desenvolupats amb eines de machine learning en són la base per a oferir servei als possibles compradors, revaluar les garanties de carteres de préstecs hipotecaris o establir estratègies òptimes de venda.

La utilització de xatbots i d’altres eines d’ajut o d’atenció al client està força estesa en empreses de serveis, amb diferents nivells de satisfacció.

En el sector de la sanitat, han estat incorporats sistemes de interpretació d’imatge, generalment incorporats a origen pels sofisticats aparells d’aquesta família: scanners, ressonàncies i similars.

En gairebé la totalitat dels casos, la motivació ha estat la productivitat, mitjançant la substitució de personal o l’augment de les capacitats de l’existent.

3. Camins i corriols del canvi

El paper dels executius rebrà transformacions radicals com a conseqüència de canvis en la naturalesa de l’empresa, així com en la forma com desenvoluparà la seva activitat. És convenient conèixer l’entorn que haurà de gestionar i també els biaixos que aquests sistemes poden generar.

3.1 L´estructuració de l’economia en unitats de dimensió molt polaritzada

Les eines que tractem en aquesta comunicació –Models, Big Data i ML– junt amb tots els nous canals i dispositius i també les facilitats en el desenvolupament de programari, han permès una expansió a cavall de la globalització tan extraordinària que el món mai no havia vist corporacions amb una esfera de poder i una grandària com la que avui veiem en els grans gegants anomenats GAFA (Google, Amazon, Facebook i Apple) i els BAT (per les empreses xineses Baidu, Alibaba i Tencent, que ofereixen serveis molt semblants). Aquestes companyies posseeixen gran part de la informació més útil de la població, a més a més d’una enorme liquiditat, fiscalitat esmunyedissa, regulació ben lleugera i vocació de monopoli.

Si mirem la capitalització en borsa dels gegants de tecnologia (GAFA + Microsoft) ja fa anys que figuren entre les companyies més valuoses. A novembre del 2017 tenien un valor col·lectiu de 3,3 billons de dòlars, i en creixement. Aquesta xifra supera amb molt la valoració de 2,2 bilions de dòlars de tan sols fa dos anys.

El 2017 es van complir 20 anys des de la sortida a borsa d’Amazon. Aquell dia, 15 maig de 1997, va començar a cotitzar en el Nasdaq amb un valor de 600 milions de dòlars. Avui, la capitalització d’Amazon ronda els 460.000 milions de dòlars, només darrera d’Apple, Google o Microsoft. Facebook, ha multiplicat per cinc el seu valor des de fa 5 anys, i Google val 32 vegades més que en el seu debut. L’evolució d’Amazon en aquests dues dècades reflecteix com ha canviat la indústria del retail en aquest temps. Walmart dominava fa 20 anys el comerç a USA. Avui, malgrat que els ingressos d’aquesta cadena segueix superant els d’Amazon, el seu valor en borsa és la meitat del de la tecnològica.

No deixa de ser sorprenent que les mateixes facilitats de comunicació, d’informació i de comerç permeten (o haurien de permetre) que unitats de producció especialitzades es connectin entre elles treballant en xarxa, en lloc d’estar integrades formalment en empreses de dimensió adient a les economies d’escala del sector on es mouen.

De fet, un sector emergent –per les startups– ja està en aquesta onda. També la profusió de franquícies, que han estat la taula de salvació per a part de la població atrapada per l’atur. Menys poètic és el fet de que són precisament els grans monopolis els qui acaben absorbint aquests segments, per compra o per dependència del canal de distribució (en ocasions finançament), reforçant al cap i al fi l’altre extrem pel que fa a la mida d’empresa.

3.2 Les mancances i la cara fosca de la tecnologia. D’aquí el nostre nou lloc sota el sol.

Sovint s’atribueixen virtuts excessives als sistemes d’IA, sobretot a l’aprenentatge supervisat o no, doncs hi han biaixos inherents a la forma com s’utilitzen i com s’implementen. Alguns d’ells tenen conseqüències poc desitjables.

És molt important saber reconèixer i valorar aquests biaixos, de cara a implementar sistemes correctors, triar altres mètodes dins de ML o pensar que encara hi ha delicades funcions que avui per avui és impossible deixar a les màquines, tot i reconeixent la seva potència i capacitat. A continuació es descriuen aquests biaixos.

* Mancances de sentiments, empatia, improvisació i sentit comú

Si bé és cert que ja no som dependents de l’especificació pas a pas de cada cosa que ha de fer un programa d’ordinador, el seu procés d’aprenentatge està encara molt tancat a les varietats que estan contingudes amb la mostra on aprèn o en el coneixement que li transmetem. Avui dia, les màquines saben fer molt bé les accions per les quals les hem creat, però no poden respondre bé a noves situacions aplicant generalitzacions que haurien d’haver après d’altres conjunts d’aprenentatge.

En els humans, aquesta capacitat de generalització és la base del que en diríem “sentit comú” i permet “improvisar” respostes i solucions en problemes nous.

Sentiments i empatia cauen també fora de les possibilitats dels sistemes d’IA. Poden analitzar o detectar, però no sentir sentiments de desil·lusió, ràbia, rebel·lia o estimació. Tot el més que podem fer és programar-li respostes convenients.

Si baixem molt de nivell, fins i tot en la capacitat d’avaluar o classificar un cert objecte o esdeveniment no vist abans, no tots els algorismes (per tant els programes que els apliquen) tenen el mateix grau d’incapacitat de generalitzar. Per exemple, Perceptrons, PLS o Regressió Logit donen aproximacions amb més o menys fortuna fora de l’àrea mostral. En canvi, els algorismes de classificació com Random Forest, CaRT o Extreme Gradient Booting són més exactes, però no gaire bons generalitzant.

* Les debilitats dels mètodes

En general, les eines de Machine Learning només aprenen del que els deixem veure o del que els comuniquem, però en alguns casos pot ser una trampa.

  • Aprenentatge sobre mostra filtrada per l’algorisme

En la majoria de casos, l’aplicació d’un algorisme de ML té com a objectiu millorar la presa de decisions, vendre més, donar un crèdit més encertat, posar més recursos en algun lloc, repartir més bé les beques d’estudis, etc. En termes generals, amb un criteri d’optimització explotarem aquesta informació, esbiaixant els recursos assignats, fent o no una oferta o donant o no un crèdit, per exemple. És clar que la propera mostra no serà una representació fidel de l’univers, sinó de la part de l’univers que ha estat filtrada.

Aquest fet te dues conseqüències. La primera, els que han sobrepassat el filtre (ex. algú ha donat un crèdit mal qualificat perquè tenia informació positiva d’altres fonts) fan que el sistema aprengui que aquell perfil és bo i així classificarà més bé a tots els semblants. La segona, el sistema és reticent a admetre innovacions en el comportament de la població o en el llançament de nous productes (ex. “altres com vostè han comprat això altre” en els e-commerce) perquè la història es retroalimenta.

Hi ha mètodes de correcció, sempre perdent quelcom d’exactitud. En qualsevol cas, hi ha sistemes on la correcció pot ser feta més fàcilment que en d’altres. Sistemes arborescents o regressius poden admetre restriccions al sentit de certes variables i en canvi, els relatius a xarxes neuronals són més difícils d’expressar les regles que fan servir.

  • Aprenentatge dels biaixos humans

Aquest biaix pot tenir conseqüències ètiques i pràctiques. Quan el sistema prova d’imitar una classificació provinent d’un judici humà, el sistema heretarà els biaixos indefectiblement. En funció de la utilitat que tingui per l’empresa, pot esdevenir molt negativa. Per exemple, en aplicacions per a Recursos Humans que facin servir la imatge, ser de raça negre o tenir aspecte oriental poden rebre més probabilitat de ser rebutjats.

Un infame exemple el podem veure en les disculpes que va demanar Google quan en el sistema automàtic d’etiquetat a la app Photos va classificar gent de raça negra com a “goril·les” o les denuncies per discriminació que rep aquest col·lectiu racial a l’aplicació COMPAS feta per calcular la probabilitat de tornar a entrar a la presó havent estat pres (Ethics. The Economist, 2016).

* La pèrdua de control

  • Fora del control humà

Aquesta és una qüestió en discussió per filòsofs i tècnics, sobretot per les conseqüències que pot portar en un futur. L’estat de la discussió està en un cert compàs d’espera, doncs s’assumeix que avui les màquines no tenen prou capacitat per a prendre el control de la humanitat ni de bon tros. Un dels capdavanters en aquest tema és en Niklas Boström els arguments del qui es poden veure a Boström 2003.

En canvi, en un nivell més proper al de l’empresa, aquests sistemes poden produir decisions adverses, no controlades. És important disposar d’eines de prova i verificació fora de la mostra d’autoaprenentatge, el més proper possible a l’univers on es dirigiran les decisions que se’n derivin en temps d’execució.

També en aquest nivell convé tenir en compte la transparència i l’auditabilitat. Un cas avui ben viu és la posició que prenen els reguladors bancaris (EBA, per exemple) a l’hora d’acceptar models interns produïts amb mètodes opacs de ML per la impossibilitat de visualitzar totes les regles en un algorisme com les xarxes neuronals profundes.

  • Control en mans perverses

Al igual que en l’apartat anterior, els principals perills venen en la dimensió global. El reconeixement de la cara és avui més eficient que la mateixa operació feta per un expert humà (98% contra 96%).

És clar que la utilització a Rússia i Xina per control i qualificació política de persones no té gaire bona rebuda pel públic, doncs combinant-ho amb les bases de dades connectades permet la destrucció de la intimitat i ens porta a un 1984 ideat per George Orwell.

Dins l’empresa, el mal ús d’aquests sistemes pot potenciar les malifetes. Cal un control que tractarem junt amb els problemes de seguretat cibernètica.

  • L’autoaprenentatge és una imprudència en molts casos

Sovint es dona com un gran avantatge sobre l’estadística que els sistemes de ML poden aprendre per ells mateixos. Tot i que en teoria és cert, hi ha dos motius per qüestionar aquesta afirmació i tenir-los en compte en la seva implementació com a aplicació.

El primer és pràctic. La potència i els serveis necessaris per a l’aprenentatge són molt més grans dels que es requereixen per la seva explotació. Un algorisme senzill de recomanació comercial o de concessió de crèdit requereix moltíssima informació per a calibrar un algorisme que es pot programar en dispositius personals, si convé. De manera que en el dispositiu local no aprèn res, excepte el que podríem anomenar “de memòria immediata”. És a dir, les darreres accions i els passats biaixos que són convertits en variables que entren a l’algorisme prèviament calibrat.

En segon lloc, el control de l’evolució de l’aprenentatge per a tenir cura dels biaixos indicats en apartats anteriors, processos de validació, qualificació de les variables i proves han de realitzar-se en batch per a tenir garantia del seu funcionament.

El major encert que veiem en els sistemes de ML, per sobre els d’estadística tradicional, és la capacitat d’incloure interaccions no lineals entre les variables, amb el que és fàcil generar moltes noves variables que poden produir sobreestimació o altres confusions entre casualitat i causalitat creant miratges entre causa i efecte.

  • La fragilitat de les pròpies eines. Cybersecurity

Junt amb totes les activitats de tractament de la informació, cada cop som més dependents de les tecnologies de la informació, del que no s’escapen les aplicacions d’IA. Però també és cert que la IA ens pot ajudar en aquestes mesures de protecció.

Les mesures de seguretat cibernètica poden agrupar-se en tres conjunts, responen a tres moments de l’atac: protecció contra l’intrusisme, detecció d’anomalies i resposta contingent.

En la protecció contra l’intrusisme, la similitud o coincidència en un patró d’unitat que intenta entrar al sistema requereix de programes especialitzats. Els antivirus o firewalls en general són d’aquesta naturalesa.

En la detecció d’anomalies, l’aplicació de tècniques d’IA serveix per a detectar que algú o alguna cosa està fent un ús que no és l’esperat per l’usuari nominal o l’activitat corrent del dispositiu. Els mètodes utilitzats són una combinació de regles i de tractament del comportament com a seqüències d’accions i reaccions dins un esquema temporal.

El tractament de plans de contingència se sol materialitzar amb regles governades per un motor especialitzat.

  • La maledicció de la dimensionalitat

El terme dimensionalitat, encunyat per Richard Bellman (Bellman, 2003), posa en guàrdia del fet que hi ha problemes que augmenten de complexitat molt més que proporcionalment a les dimensions del problema.

En els temes d’aprenentatge de les eines d’IA, obtenen més exactitud creant noves variables d’interacció, que, en potència, augmenten exponencialment relativament al nombre de variables bàsiques. Això vol dir més requeriments de còmput, d’anàlisi i més perill de prediccions espúries.

També afecta als sistemes de coneixement tipus sistemes experts o amb tractament de llenguatge natural, on amb un nombre limitat de regles o d’objectes s’obtenen assajos molt estimulants; però un increment en el nombre d’elements per acostar-ho al problema real fa explotar la complexitat, convertint el projecte en quelcom inviable.

3.3 Quines mesures ajudarien a la incorporació d’aquestes tecnologies a Catalunya?

És evident l’èxit de les institucions creades a Catalunya per promoure les tecnologies al voltant de Big Data. La posició respecte a l’estat Espanyol i fins i tot a Europa és envejable. Estem per sobre de París, Madrid i Londres en nombre d’empreses d’aquest subsector. Pot ser útil analitzar els colls d’ampolla i els biaixos en aquest desenvolupament per aportar alguna nova idea positiva.

El primer coll d’ampolla és la falta d’experts amb experiència, doncs malgrat l’oferta dels centres de formació, l’experiència no és fàcil d’aconseguir. Una orientació molt més pràctica mantenint transversalitat però reforçant pràctiques i incorporant assessors i professors a temps parcial amb experiència en desenvolupaments milloraria la seva aportació.

També hi ha la polarització dels coneixements tramesos, massa tecnològics i menys empresarials. Entre els motius més freqüents de fallida de les empreses que comencen hi contem la falta d’adequació del servei o producte als requeriments del mercat, els problemes de finançament i les dificultats per combinar les peces que fan que una empresa evolucioni: fiscal, personal, finances, fiscal, mercat, producció... Nou de cada deu noves empreses de tecnologia no donen prou cash flow corrent per retribuir el capital que les suporta.

Un altre coll d’ampolla és la força de la demanda específica per aquests productes i serveis. Tot i que la opinió sobre la seva utilitat ha canviat molt, no és fàcil tenir una visió clara del retorn de les inversions en aplicacions específiques, en solucions a problemes concrets. Hi ha més empreses amb tecnologies que solucionen problemes que aplicacions d’èxit que combinin les eines que avui disposem per a solucionar problemes o per a millorar la productivitat en processos ja existents. Ha estat venuda la idea de Big Data com important per sí mateixa, convé difondre per tots els mitjans els casos d’èxit... i de fracàs, encara que això últim no és el que els experts de màrqueting o els polítics entusiastes els hi agrada més de fer.

És molt interessant el criteri que s’ha seguit d’atreure centres de recerca i desenvolupament internacionals al nostre país. Produeix ocupació de qualitat, substitueix importacions (no els hi recorda la revolució industrial a casa nostra?) que es podran convertir en exportacions. Això, per altra banda, no ens ve de nou. Gran part dels sistemes de control de risc de Amèrica Llatina han estat generats al nostre país.

Que el sector públic es mostri actiu com a catalitzador és molt important en processos d’innovació, tot i que és molt important que no perdi de vista la rendibilitat real dels recursos que administra. Al igual que tota institució de desenvolupament, cal aportar finançament (tot i que avui potser no és el més important), cultura d’empresa i assessorament, suport a les organitzacions naturals i facilitar el pont entre els centres de formació i les empreses. No gens menyspreable és l’ajut a nous mercats tant en facilitats d’entitats internacionals com en el salt cap a nous mercats. Val a dir que en moltes d’aquestes accions el paper de la Generalitat ha estat excel·lent.

4. Conclusions. Aportant valor

Les tècniques de Modelització, Big Data i Machine Learning han obert un espai en la gestió de l’empresa, i poden ajudar des de pimes a corporacions.

Requereixen canvis en l’organització, però no implica canvis radicals immediats. És bo establir un pla de desplegament on cada pas ha de tractar-se com una inversió en equipament, mesurant esforç, pressupost i resultats esperats.

La gerència ha de ser una de les beneficiades directament per aquestes innovacions, descarregant feina de control, informes corporatius i feines administratives gràcies a combinacions de Business Intelligence, models de predicció, simuladors de decisions i informes d’excepció. Més de la meitat del temps dedicat per la gerència rau en aquests conceptes.

La gerència ha de poder descarregar part d’aquestes tasques més mecàniques per poder desenvolupar més el disseny del futur. Per exemple pel que fa a la tria i formació de l’equip -vetllant per la seva cohesió-; a la incorporació de coneixements de les noves tecnologies, -per sí mateix i per l’organització-; a la detecció noves oportunitats i al desenvolupament de negoci.

També així pot concentrar l’esforç en tasques de judici humà: empatia, ètica, imaginació i experiència.

Cal una cooperació home-màquina, no una competència. He tingut oportunitat de veure competències patètiques en el món industrial. L’important és comprendre bé les limitacions d’un i altre.

És necessari desenvolupar relacions socials i professionals. No tots els professionals mantenen la mateixa actitud enfront d’aquestes tecnologies. Aquesta pot anar de l’entusiasme a la resistència luddita depenent de l’edat, del nivell intel·lectual i de la seva percepció de com d’important és la seva feina i com por ser substituïda o canviada.

En el procés de canvi, els col·laboradors seran una font de creativitat, doncs com en qualsevol canvi, els primers passos modifiquen les funcionalitats directament implicades amb les noves eines per anar escampant-se fins a transformar la resta de productes i serveis, l’organització i les relacions internes i externes.

5. Referències

Arntz, M., Gregory, T. i Zierahn, U. (2016), “The Risk of Automation for Jobs in OECD Countries: A Comparative Analysis”, OECD Social, Employment and Migration Working

Papers, No. 189, OECD Publishing, Paris.

Bellman, R.E. (1957), Dynamic Programming, Princeton University Press, Princeton, NJ. Republished 2003: Dover, ISBN 0486428095.

Boström, N. (2003), “Ethical Issues in Advanced Artificial Intelligence”, Oxford University Philosophy Faculty, Oxford OX1 4JJ United Kingdom

CBINSIGHTS (2018), 12 Food Trends To Watch in 2018

CBINSIGHTS (2018), Top 20 Reasons Why Startups Fail

Kolbjørnsrud, V., Amico. R., i Thomas, J. (2016), “How Artificial Intelligence Will Redefine Management”, Hardward Business Review

Osborne, F., (2013), “The Future of Employment”, Oxford Martin Programme on Technology and Employment

Rosselló, X. i Trias, R. (1995) “El calendario de los juegos paralímpicos”, Torremolinos

The Economist (2016), “March of the Machines. Ethics. Frankenstein’s paperclips”

Trias, R. (2017) “IA a finances. Jornades dels Economistes”, Col·legi d’Economistes, Barcelona

Trias, R. i Aguirre, J.M. (2015) “Forecasting and planning in chaos”, AIS

Turing, A. M. (1950),  “Computing Machinery and Intelligence”, Mind

Von Neumann, J. (1945), “First Draft of a Report on the EDVAC”

Back to Top

Document information

Published on 11/05/18
Accepted on 15/04/18
Submitted on 05/03/18

Licence: Other

Document Score

0

Views 22
Recommendations 0

Share this document