Hacking AI - Wie schnell maschinelles Lernen durch Angriffe vergiftet wird

KI ist schön, macht aber viel Arbeit. Frei nach Karl Valentin („Kunst ist schön,…“) gilt diese Aussage heute für alle Anwendungsbereiche von KI und ihrem am weitesten verbreiteten Element, dem maschinellen Lernen (ML).

Wer KI/ML in der industriellen Automation anwendet und sich wundert, dass seine Systeme nicht das liefern, was vereinbart wurde, sollte schleunigst mal das Setting oder Training seiner Modelle prüfen lassen. Entweder durch den Anbieter, oder durch einen unabhängigen Dienstleister.

Entsprechende Algorithmen gelten zwar als sophisticated, anspruchsvoll, sehr komplex und sehr hermetisch. Aber sie sind angreifbar und fehlerhaft wie jeder andere Code auch.

Faustregel: Je komplexer und damit umfangreicher, desto störanfälliger. Derzeit verschwindet der Nimbus von KI als unnah- und unfehlbar. Und wer als Anbieter entsprechender Produkte oder Plattformen bisher den Eindruck erwecken konnte, das Arbeitsergebnis seiner Data Scientists sei Künstliche Intelligenz, muß heute umdenken. Er muß zugestehen, dass im Inneren seines gerne blickdichten Algorithmus´ viele, mitunter peinliche Lücken lauern.

Anwender dürfen und sollten Methoden und Systeme der KI also unbedingt auf Arbeits- und Ergebnissicherheit hinterfragen. Im Vortrag erfahren Sie, worauf Sie achten müssen.