Sicherheitsmechanismen für Künstliche Intelligenz in landwirtschaftlichen Traktorsystemen

Abstract

Künstliche Intelligenz (KI) wird zunehmend in landwirtschaftlichen Traktoren für sicherheitskritische Funktionen wie Umfeldwahrnehmung und Anomalieerkennung eingesetzt. Mit der zunehmenden Verbreitung KI-basierter Anomalieerkennungssysteme (Anomaly Detection Systems, ADS) für landwirtschaftliche Traktorsysteme sind in der landwirtschaftlichen Fachwelt eine Reihe von Bedenken aufgekommen. Während zahlreiche Forschungsarbeiten zu Entwurf, Einsatz und Optimierung von ADS entstanden sind, wird die Abwehr potenzieller Angriffe auf die ADS in der Literatur weitgehend vernachlässigt. In dieser Arbeit untersuchen wir die Sicherheitsprobleme von ADS und schlagen ein mehrschichtiges Sicherheitskonzept (Defence-in-Depth) vor, um vier Angriffsarten auf landwirtschaftliche Traktorsysteme abzuwehren: White-Box-, Black-Box-, Grey-Box- und Modellmanipulationsangriffe. Experimentelle Ergebnisse anhand realer CAN-Bus-Daten, die an einem landwirtschaftlichen Traktor (Fendt 211) aufgezeichnet wurden, zeigen, dass sowohl das auf Long Short-Term Memory (LSTM) basierende ADS als auch das leichtgewichtige, auf maschinellem Lernen basierende ADS in hohem Maße anfällig für Black-Box-Angriffe sind: Unter Angriff sinkt die Erkennungsgenauigkeit des LSTM-basierten ADS bei unauffälligen Signalmanipulationen (Spoofing) geringer Amplitude um bis zu etwa 50 % gegenüber dem Referenzmodell (ohne Angriff), die des leichtgewichtigen ADS um bis zu etwa 45 %, in beiden Fällen szenarioabhängig. Darüber hinaus identifizierte unsere Bedrohungsanalyse und Risikobewertung (Threat Analysis and Risk Assessment, TARA) für das LSTM-basierte ADS 18 Bedrohungen für fünf Schutzgüter, davon 3 mit hohem, 9 mit mittlerem und 6 mit niedrigem Risiko. Diese Arbeit eröffnet ein neues Forschungsfeld für die Sicherheit von ADS in landwirtschaftlichen Traktorsystemen und den Entwurf robuster KI-Komponenten in Traktoren.