Egy mai szolgáltatás így épül fel: adat, modell, ajánlás, üzleti szabály, felület, munkatárs, ügyfél, következmény. A lánc minden pontján döntés születik, de egyik szereplő sem döntött igazán egyedül.
A banki ügyintéző azt látta, amit a rendszer feldobott. A toborzó a gép rövidlistáját nézte. A biztosító a pontszám alapján árazott. A fejlesztő a modellt implementálta. A modell pedig nyilván nem felel semmiért.
A végén viszont valakivel történt valami.
Elish fogalma erre a moral crumple zone: az összetett automatizált rendszerekben rendszerint az az ember nyeli el a felelősséget, akinek a tényleges mozgástere már a legkisebb volt. Formálisan ott ül valaki a lánc végén, hogy legyen, aki döntött.
Ezért a tervezés kérdése ma már nem csak az, hogy jó dolgot tervezünk-e, hanem az, hogy megtervezzük-e magát a felelősséget. Ki tud felülbírálni, ki látja, mi történt, hol lehet nemet mondani, és hol csak ceremónia az emberi jelenlét.
Az előadás pénzügyi és egészségügyi példákon megy végig, és arra a kérdésre fut ki, amelyet minden cégnél fel lehet tenni holnap reggel: a mi láncunkban hol az a pont, ahol egy ember valóban meg tudja állítani a folyamatot?