ChatGPT als Agrarberater? Ungenauigkeiten begünstigen Ernteverluste und Missernten

Beliebte Sprach-KI wie ChatGPT kann dazu eingesetzt werden, Menschen bestimmte Arbeiten zu erleichtern oder Ideen zu liefern. Besonders in kreativen Aufgabenbereichen gelten die Chatbots als nützliche Helfer. In anderen Sektoren hingegen haben auch sie mitunter ihre Schwächen – zum Beispiel als Berater in landwirtschaftlichen Fragen, wie israelische Forscher der Universität Reichman herausgefunden haben.

Dr. Asaf Tzachor von der Reichman-Universität untersuchte zusammen mit internationalen Kollegen die Zuverlässigkeit der Informationen von ChatGPT (Versionen 3.5 und 4.0). Dabei stellte sich heraus, dass die den afrikanischen Landwirten gegebenen Ratschläge teils ungenau waren. Hätten die Bauern diese Vorgaben wie beschrieben durchgeführt, wären erhebliche Ernteverluste und somit Nahrungsmittelengpässe die Folge gewesen.

Die Wissenschaftler raten deshalb derzeit vom Einsatz der KI in der Landwirtschaft ab. Die Befürchtungen seien zu groß, dass Bauern die fehlerhaften Empfehlungen umsetzen könnten. Daher fordern Tzachor und seine Kollegen spezielle auf Agrarwirtschaft bezogene Verbesserungen der Sprach-KI, die zuvor gründlich auf ihre Tauglichkeit geprüft wurde.

Rat für 570 Millionen Bauern

Kurz nach dem Start von ChatGPT Anfang 2023 berief Dr. Tzachor ein internationales Team von Agrarforschern aus Nigeria, Kenia, Kolumbien, Frankreich, England und den USA ein. Sie stellten fest, dass Landwirte aus kleinen bis mittelgroßen Betrieben in Äquatorialafrika, Südostasien und Südamerika begannen, die Künstliche Intelligenz in Sachen Agronomie und Botanik um Rat zu bitten. Infolgedessen wollten die Forscher herausfinden, ob der Chatbot die bisher tätigen Agrarberater künftig ersetzen könnte.

Und nun? Nach der Einführung von ChatGPT haben viele Bauern aus Entwicklungsländern die KI um landwirtschaftlichen Rat gefragt. Foto: Dharmapada Behera/iStock

Weltweit benötigen etwa 570 Millionen kleine und mittlere landwirtschaftliche Betriebe Schulungen in verschiedenen landwirtschaftlichen Bereichen. Doch die Berater stehen oft vor großen Herausforderungen, insbesondere in Entwicklungsländern. Dazu gehören Sprachbarrieren, Übersetzungsprobleme oder nicht vorhandene Kommunikationsnetze.

„Agrarberater sind für die Verbreitung von fortschrittlichem landwirtschaftlichem Wissen unerlässlich. Sie leiten in vielen Fällen Kleinbauern auf der ganzen Welt bei der Umsetzung von Methoden zur nachhaltigen Intensivierung des Anbaus an. Außerdem geben sie Konferenzen und Seminare über neue Herbizide und Pestizide […]“, erklärt Dr. Tzachor.

Zu den Beratern gehören Hunderttausende professionelle Agronomen und Botaniker, Experten für Pflanzenkrankheiten und Berater für Bewässerung, Düngung, Vermarktung von Produkten und Handel.

Neben der Tatsache, dass es weit weniger Berater als Ratsuchende gibt, kommt hinzu, dass die Agrarberater teilweise weit voneinander entfernte und abgelegene Betriebe anfahren müssen, was mitunter über lückenhafte Straßennetze und schlechte Fahrbahnen erfolgt. Umgekehrt ist es auch für Kleinbauern in Afrika und Südamerika schwierig bis unmöglich, Hunderte Kilometer zurückzulegen, um an Fachseminaren teilzunehmen.

Wie der Sanipass in Südafrika sind viele Straßen Afrikas einfache, ausgefahrene Wege. Bei starken Regenfällen sind diese schwer bis nicht befahrbar. Foto: Lukas Bischoff/iStock

Um diese Herausforderungen vielleicht lösen zu können, testeten die Wissenschaftler den Einsatz von ChatGPT als Agrarberater. Was mit vorsichtigem Optimismus begann, endete jedoch in Irreführung, Ungenauigkeiten und deutlichen Warnungen an die Nutzer.

ChatGPT statt studierter Botaniker?

Zunächst beauftragten die Forscher den Chatbot mit der Empfehlung von Bekämpfungs- und Behandlungsmaßnahmen für den „Herbst-Heerwurm“. Bei diesem handelt es sich um die Raupen des Schmetterlings „Spodoptera frugiperda“, die vorzugsweise ganze Maisfelder befallen. Mit ihrem großen Appetit richten die Insekten weltweit Schäden in Milliardenhöhe an. Die bereits genannten Versionen von ChatGPT gaben dabei zweideutige Ratschläge zum Einsatz von Pestiziden.

Im zweiten Szenario fragten nigerianische Bauern den Chatbot nach Anbautipps für die Maniokpflanze. Ihre Wurzel ist in Afrika weitverbreitet und ein enorm wichtiges Produkt, das Dutzende Millionen Menschen auf dem Kontinent ernährt. In diesem Fall schlug ChatGPT den Einsatz von Herbiziden vor, irrte sich jedoch hinsichtlich des Zeitpunkts der Anwendung. Diese hätten zu enormen Ernteschäden geführt und damit potenziell eine Nahrungsmittelkrise auslösen können.

In Nigeria werden jährlich rund 60 Millionen Tonnen der stärkehaltigen Maniokwurzeln angebaut. Foto: tinglee1631/iStock

„Das Problem mit unseren Ergebnissen geht über die Fehler des Algorithmus selbst hinaus“, so Dr. Tzachor. „Viele hatten uns vor den möglichen Fehlern und Ungenauigkeiten gewarnt. Das grundlegende Problem ist das Fehlen jeglicher Sicherheitsvorkehrungen gegen den weitverbreiteten Einsatz von großen Sprachmodellen und KI im Allgemeinen in einem so sensiblen System wie der Landwirtschaft.“

Abwägen von Risiken

Laut dem Forscher gibt es keine Kontrolle darüber, wie solche Modelle eingesetzt werden. Hinzu kommen fehlende Bewertungen bezüglich ihrer Eignung sowie eine fehlende Rechenschaftspflicht für die Folgen eines falschen Einsatzes.

„Im Fall der aktuellen Studie geht es nicht darum, den Chatbot für das Schreiben eines Drehbuchs zu verwenden. Wir befassen uns mit der Lebensmittelsicherheit und dem Management von landwirtschaftlichen Betrieben. Die Verlockung, die moderne Technik zu nutzen, liegt auf der Hand, aber sie birgt auch erhebliche Risiken“, sagt Dr. Tzachor.

Für die Forscher besteht daher Handlungsbedarf. „Viele Skeptiker sprechen von Ungenauigkeiten, aber nur wenige befassen sich mit ihren Folgen für gefährdete Bevölkerungsgruppen. Außerdem bleibt die Frage der Haftung weitgehend ungeklärt“, so Dr. Tzachor abschließend.

Die Studie erschien im November 2023 im Fachjournal „Nature Food“.