Súboje v rámci modernizácie a vysvetliteľná umelá inteligencia

Expertný pohľad na technologické výzvy súčasnosti

20. 9. 2019 ǀ 6 minút

PREČO POTREBUJEME, ABY BOLA UMELÁ INTELIGENCIA VYSVETLITEĽNÁ? A NA AKÉ SPORY SA PRIPRAVIŤ V RÁMCI ZÁSADNEJ REKONŠTRUKCIE STARÝCH PLATFORIEM? MOSHE KRANC PRICHÁDZA SO SVOJÍM POHĽADOM NA TECHNOLOGICKÉ VÝZVY SÚČASNOSTI A PONÚKA RIEŠENIE.

Súboje v rámci modernizácie a vysvetliteľná umelá inteligencia

Expertný pohľad na technologické výzvy súčasnosti

20. 9. 2019 ǀ 6 minút

PREČO POTREBUJEME, ABY BOLA UMELÁ INTELIGENCIA VYSVETLITEĽNÁ? A NA AKÉ SPORY SA PRIPRAVIŤ V RÁMCI ZÁSADNEJ REKONŠTRUKCIE STARÝCH PLATFORIEM? MOSHE KRANC PRICHÁDZA SO SVOJÍM POHĽADOM NA TECHNOLOGICKÉ VÝZVY SÚČASNOSTI A PONÚKA RIEŠENIE.

Ako technický riaditeľ mám príležitosť stretávať sa s mnohými zákazníkmi a potenciálnymi zákazníkmi, ktorí pôsobia v rôznych oblastiach, napríklad v maloobchode, finančnom sektore, vzdelávaní alebo zdravotníctve. To mi poskytuje jedinečný pohľad na obchodné a technologické výzvy, ktorým tieto spoločnosti a inštitúcie čelia, a na spôsoby, ako sa s nimi vysporadúvajú. V tomto článku by som rád opísal spoločné témy, s ktorými som sa stretol za posledných niekoľko mesiacov v niekoľkých spoločnostiach z rôznych segmentov.

Vysvetliteľná umelá inteligencia

Umelá inteligencia (AI) sa dnes ponúka ako riešenie mnohých podnikových výziev a ťažkostí. Za samotné rozhodnutia sú však nakoniec zodpovední ľudia, nie algoritmy. Keď sa niečo pokazí, robiť len to, čo odporučil algoritmus AI, neznie ako príliš rozumný prístup.

Ak teda podniky chcú založiť kritické rozhodnutia na algoritmoch AI, musia pochopiť, prečo algoritmus odporučil konkrétnu akciu a aké je logické zdôvodnenie. To nielen zvyšuje dôveru v systém, ale tiež pomáha označiť nepresné alebo inak problematické odporúčania.

Mnoho algoritmov AI, ako je hlboké učenie, zakladá svoje odporúčania na vzorkách, ktoré rozoznávajú vo veľkých objemoch testovacích dát. V mnohých prípadoch sú dáta založené skôr na štatistikách než na akejkoľvek logike zrozumiteľnej pre človeka, takže výsledky môžu obsahovať skrytú predpojatosť alebo skreslenie.

Predpokladajme napríklad, že spoločnosť chce analyzovať dáta a určiť úroveň platu, ktorú navrhne novému zamestnancovi. Skúšobné dáta použité k vyladeniu tohto algoritmu, pokiaľ sú založené čisto na historických dátach o mzdách, môžu byť skreslené, pretože budú ovplyvnené nespravodlivými mzdami žien alebo menšín v minulosti.

Akýkoľvek systém založený na AI, ktorý my používame, je vysvetliteľný, t. j. akékoľvek odporúčania, ktoré navrhuje, môžu byť človeku vysvetlené a odôvodnené.

To vyplýva z najnovšieho technologického vývoja, ktorý dokáže ľuďom pomôcť pochopiť nejasné štatistické algoritmy typu hlbokého učenia, napríklad LIME – Local Interpretable Model-Agnostic Explanations (Lokálne interpretovateľné modelové agnostické vysvetlenia).

Vysvetliteľnú AI je možné použiť na čokoľvek, čo má dopad na životy ľudí a mohlo by byť skreslené predpojatosťou – od stanovenia prijatia do vzdelávacieho programu alebo na univerzitu až po rozhodnutie, ako (resp. skôr na koľko) niekoho poistiť, alebo či niekomu vydať kreditnú kartu alebo poskytnúť pôžičku na základe demografických údajov.

Modernizácia s rešpektom

Niektorí naši zákazníci sa rozhodli vykonať významnú modernizáciu svojich platforiem a prechádzajú zo staršieho mainframového systému na modernejšiu kontajnerizovanú architektúru založenú na cloude. Motiváciou býva závažná udalosť, ako je oznámenie konca životnosti mainframu, alebo potreba zvýšiť agilnosť a skrátiť dobu nutnú na zavedenie novej obchodnej funkcie.

Nech už zákazníci majú akýkoľvek dôvod, musia prechod starostlivo riadiť tak, aby obvyklá prevádzka pokračovala bez prerušenia a aby celá spoločnosť bola pripravená prijať a používať nový systém na konci prechodného obdobia.

Veteráni vs. nováčikovia

Medzi bežné úskalia týchto modernizačných projektov patrí rozpor medzi prívržencami staršej verzie a modernizačnými tímami. Príliš často sa spoločnosť delí na „veteránov“, ktorí rozumejú existujúcim podnikovým procesom a technológiám, a „nováčikov“, ktorí rozumejú najnovším technológiám a metodológiám.

Výsledkom je určitý kultúrny rozkol, kedy prívrženci staršej verzie nezdieľajú znalosti s modernizačným tímom, pretože sa cítia z celého procesu vynechaní, a modernizačnému tímu zase chýbajú hlboké znalosti o existujúcej doméne a technológiách, ktoré sú potrebné k ich modernizácii. Jedným z riešení, ako takýto rozkol zmierniť, je „zmiešanie“ týchto dvoch skupín, napríklad použitie produktových manažérov „veteránov“ k riadeniu požiadaviek na modernizovaný systém.

Je tiež zásadné budovať rešpekt zo strany modernizačného tímu k existujúcemu starému systému, ktorý, aj keď môže byť zastaralý, bol vo svojej dobe pravdepodobne najmodernejší a priniesol spoločnosti dostatočný finančný úspech k financovaniu súčasnej modernizácie.

Príliš optimistické naplánovanie procesu modernizácie nezohľadňuje problémy ako:

  • dostupnosť odborníkov na danú problematiku pre zachytenie požiadaviek;
  • vyvíjajúce sa požiadavky, ktoré vyplynú až potom, čo užívatelia uvidia prvú verziu;
  • čas potrebný k zachyteniu a implementácii nefunkčných požiadaviek pre neskoršie operácie, ako je paralelná prevádzka a vyradenie z mainframu;
  • pôrodné bolesti pri vytváraní funkčného vývojového prostredia.

Rozpoznať „skratky“

Prístup veľkého tresku, ktorý neposkytuje žiadne krátkodobé riešenia, jednoznačne víťazí. Viacročný časový plán pre produkt, ktorý sa nasadí naraz na konci vývoja, je odsúdený k zlyhaniu, pretože tvorcovia podnikateľských rozhodnutí stratia trpezlivosť dávno predtým, než bude produkt pripravený.

U nás sme sa naučili rozpoznať „skratky“, ktoré umožňujú, aby časti nového systému boli nasadené v priebehu niekoľkých mesiacov, a mohli poskytovať hmatateľné obchodné výhody, ktoré povzbudzujú k ďalším krokom.

Je lákavé dosiahnuť iné ciele, zatiaľ čo modernizujete celý systém, napríklad vylepšiť obchodné procesy, ktoré nefungujú úplne ideálne, alebo transformovať spôsob práce organizácie z vodopádového modelu s občasnými dodávkami na agilnejší model.

Podľa našich skúseností je ale taký postup chybný, pretože tým otvárate príliš veľa bojových frontov naraz. Kto hovorí, že nový proces definovaný modernizačným tímom je vo všetkom lepší než ten existujúci? Kto hovorí, že užívatelia vášho produktu by uprednostňovali časté releasy, ktoré by umožnil agilný vývoj? Modernizácia je sama o sebe dostatočnou výzvou, a preto by mala byť financovaná a riešená samostatne.

Moshe Kranc | Chief Technology Officer, Ness Digital Engineering

Ako technický riaditeľ mám príležitosť stretávať sa s mnohými zákazníkmi a potenciálnymi zákazníkmi, ktorí pôsobia v rôznych oblastiach, napríklad v maloobchode, finančnom sektore, vzdelávaní alebo zdravotníctve. To mi poskytuje jedinečný pohľad na obchodné a technologické výzvy, ktorým tieto spoločnosti a inštitúcie čelia, a na spôsoby, ako sa s nimi vysporadúvajú. V tomto článku by som rád opísal spoločné témy, s ktorými som sa stretol za posledných niekoľko mesiacov v niekoľkých spoločnostiach z rôznych segmentov.

Vysvetliteľná umelá inteligencia

Umelá inteligencia (AI) sa dnes ponúka ako riešenie mnohých podnikových výziev a ťažkostí. Za samotné rozhodnutia sú však nakoniec zodpovední ľudia, nie algoritmy. Keď sa niečo pokazí, robiť len to, čo odporučil algoritmus AI, neznie ako príliš rozumný prístup.

Ak teda podniky chcú založiť kritické rozhodnutia na algoritmoch AI, musia pochopiť, prečo algoritmus odporučil konkrétnu akciu a aké je logické zdôvodnenie. To nielen zvyšuje dôveru v systém, ale tiež pomáha označiť nepresné alebo inak problematické odporúčania.

Mnoho algoritmov AI, ako je hlboké učenie, zakladá svoje odporúčania na vzorkách, ktoré rozoznávajú vo veľkých objemoch testovacích dát. V mnohých prípadoch sú dáta založené skôr na štatistikách než na akejkoľvek logike zrozumiteľnej pre človeka, takže výsledky môžu obsahovať skrytú predpojatosť alebo skreslenie.

Predpokladajme napríklad, že spoločnosť chce analyzovať dáta a určiť úroveň platu, ktorú navrhne novému zamestnancovi. Skúšobné dáta použité k vyladeniu tohto algoritmu, pokiaľ sú založené čisto na historických dátach o mzdách, môžu byť skreslené, pretože budú ovplyvnené nespravodlivými mzdami žien alebo menšín v minulosti.

Akýkoľvek systém založený na AI, ktorý my používame, je vysvetliteľný, t. j. akékoľvek odporúčania, ktoré navrhuje, môžu byť človeku vysvetlené a odôvodnené.

To vyplýva z najnovšieho technologického vývoja, ktorý dokáže ľuďom pomôcť pochopiť nejasné štatistické algoritmy typu hlbokého učenia, napríklad LIME – Local Interpretable Model-Agnostic Explanations (Lokálne interpretovateľné modelové agnostické vysvetlenia).

Vysvetliteľnú AI je možné použiť na čokoľvek, čo má dopad na životy ľudí a mohlo by byť skreslené predpojatosťou – od stanovenia prijatia do vzdelávacieho programu alebo na univerzitu až po rozhodnutie, ako (resp. skôr na koľko) niekoho poistiť, alebo či niekomu vydať kreditnú kartu alebo poskytnúť pôžičku na základe demografických údajov.

Modernizácia s rešpektom

Niektorí naši zákazníci sa rozhodli vykonať významnú modernizáciu svojich platforiem a prechádzajú zo staršieho mainframového systému na modernejšiu kontajnerizovanú architektúru založenú na cloude. Motiváciou býva závažná udalosť, ako je oznámenie konca životnosti mainframu, alebo potreba zvýšiť agilnosť a skrátiť dobu nutnú na zavedenie novej obchodnej funkcie.

Nech už zákazníci majú akýkoľvek dôvod, musia prechod starostlivo riadiť tak, aby obvyklá prevádzka pokračovala bez prerušenia a aby celá spoločnosť bola pripravená prijať a používať nový systém na konci prechodného obdobia.

Veteráni vs. nováčikovia

Medzi bežné úskalia týchto modernizačných projektov patrí rozpor medzi prívržencami staršej verzie a modernizačnými tímami. Príliš často sa spoločnosť delí na „veteránov“, ktorí rozumejú existujúcim podnikovým procesom a technológiám, a „nováčikov“, ktorí rozumejú najnovším technológiám a metodológiám.

Výsledkom je určitý kultúrny rozkol, kedy prívrženci staršej verzie nezdieľajú znalosti s modernizačným tímom, pretože sa cítia z celého procesu vynechaní, a modernizačnému tímu zase chýbajú hlboké znalosti o existujúcej doméne a technológiách, ktoré sú potrebné k ich modernizácii. Jedným z riešení, ako takýto rozkol zmierniť, je „zmiešanie“ týchto dvoch skupín, napríklad použitie produktových manažérov „veteránov“ k riadeniu požiadaviek na modernizovaný systém.

Je tiež zásadné budovať rešpekt zo strany modernizačného tímu k existujúcemu starému systému, ktorý, aj keď môže byť zastaralý, bol vo svojej dobe pravdepodobne najmodernejší a priniesol spoločnosti dostatočný finančný úspech k financovaniu súčasnej modernizácie.

Príliš optimistické naplánovanie procesu modernizácie nezohľadňuje problémy ako:

  • dostupnosť odborníkov na danú problematiku pre zachytenie požiadaviek;
  • vyvíjajúce sa požiadavky, ktoré vyplynú až potom, čo užívatelia uvidia prvú verziu;
  • čas potrebný k zachyteniu a implementácii nefunkčných požiadaviek pre neskoršie operácie, ako je paralelná prevádzka a vyradenie z mainframu;
  • pôrodné bolesti pri vytváraní funkčného vývojového prostredia.

Rozpoznať „skratky“

Prístup veľkého tresku, ktorý neposkytuje žiadne krátkodobé riešenia, jednoznačne víťazí. Viacročný časový plán pre produkt, ktorý sa nasadí naraz na konci vývoja, je odsúdený k zlyhaniu, pretože tvorcovia podnikateľských rozhodnutí stratia trpezlivosť dávno predtým, než bude produkt pripravený.

U nás sme sa naučili rozpoznať „skratky“, ktoré umožňujú, aby časti nového systému boli nasadené v priebehu niekoľkých mesiacov, a mohli poskytovať hmatateľné obchodné výhody, ktoré povzbudzujú k ďalším krokom.

Je lákavé dosiahnuť iné ciele, zatiaľ čo modernizujete celý systém, napríklad vylepšiť obchodné procesy, ktoré nefungujú úplne ideálne, alebo transformovať spôsob práce organizácie z vodopádového modelu s občasnými dodávkami na agilnejší model.

Podľa našich skúseností je ale taký postup chybný, pretože tým otvárate príliš veľa bojových frontov naraz. Kto hovorí, že nový proces definovaný modernizačným tímom je vo všetkom lepší než ten existujúci? Kto hovorí, že užívatelia vášho produktu by uprednostňovali časté releasy, ktoré by umožnil agilný vývoj? Modernizácia je sama o sebe dostatočnou výzvou, a preto by mala byť financovaná a riešená samostatne.

Moshe Kranc | Chief Technology Officer, Ness Digital Engineering

Prečítajte si tiež

Lekári sa obávajú inovácií. Darí sa nám vysvetľovať, že nie je prečo

Chceme napomôcť tomu, aby lekári predčasne neopúšťali ordinácie

Súboje v rámci modernizácie a vysvetliteľná umelá inteligencia

Expertný pohľad na technologické výzvy súčasnosti

Inteligentná mobilita vrátane inovácií v riešení prepojených áut

Inovatívne myslenie je pohonom nových modelov dopravy

Prečítajte si tiež

Lekári sa obávajú inovácií. Darí sa nám vysvetľovať, že nie je prečo

Chceme napomôcť tomu, aby lekári predčasne neopúšťali ordinácie

Súboje v rámci modernizácie a vysvetliteľná umelá inteligencia

Expertný pohľad na technologické výzvy súčasnosti

Inteligentná mobilita vrátane inovácií v riešení prepojených áut

Inovatívne myslenie je pohonom nových modelov dopravy