Фермер се довери на ChatGPT за земеделието си и за малко не унищожи реколтата си

Повечето хора знаят, че не трябва да се доверяват сляпо на AI по важните въпроси, дори и той да е давал множество правилни отговори преди това. Един земеделски производител от Чуджоу, Китай, научи това по трудния начин, когато последва съветите на чатбота за борба с плевелите и вредителите. Резултатът беше загубата на 25 акра реколта.

На 67-годишния фермер AI препоръча да използва „високоефективния флупириметалин“ и „флусулфасулфаетер“ (флуфенацет) за унищожаване на плевелите и да ги смеси с „тиаметоксазин“ и „метилна сол“. Както съобщава тайванският китайскоезичен новинарски сайт CTWANT (чрез Tom's Hardware), той сляпо е следвал инструкциите, без да провери дали това, което прави, е безопасно.
Едва на следващата сутрин фермерът осъзнал, че не е трябвало да действа толкова прибързано. Около 24,7 акра от неговите разсади от сусам са загинали.

Явно много разстроен, фермерът отново се обръща към AI, за да попита защо се е случило това. Причината, както изглежда, е била употребата на флусулфасулфаетер. Хербицидът се използва главно за унищожаване на широколистните плевели в соевите полета, но тъй като сусамът се класифицира като широколистно растение, той е засегнат от химикала.

AI също така е заявил, че флусулфасулфаетерът трябва да се пръска директно само върху засегнатите участъци, вместо да се разпръсква по цялото поле, както, за съжаление, го е направил фермерът.

Ядосаният фермер заяви, че AI изобщо не го е предупредил за опасностите от следването на съветите му, но, както всеки чатбот ще ви каже само, че може да допуска грешки, да не разбере правилно някои подробности или да се опира на непълна информация. Ето защо ChatGPT има предупреждение в долната част, в което се посочва, че той може да допуска грешки и че потребителите трябва да проверяват важната информация.

Иронията в този случай е, че фермерът първоначално не се е доверявал на AI приложението, но е променил мнението си, след като то се е оказало полезно. Предвид крайния резултат, явно е трябвало да се довери на интуицията си.

Има дълъг списък с хора, които се доверяват на отговорите, генерирани от AI, и после съжаляват за това. Един от най-тежките случаи се случи миналата година, когато 60-годишен мъж, след като прочете репортажи за негативното въздействие, което прекомерните количества натриев хлорид (обикновената готварска сол) могат да окажат върху организма, реши да я премахне от храната си.

Когато мъжът попитал ChatGPT за веществата, които биха могли да заменят солта, едно от предложенията беше натриев бромид, което може да е вярно за определени приложения, като почистване, но със сигурност не и за храна. Както мъжът откри, новият режим на хранене му причини бромизъм, известен още като хронично отравяне с бромид – психиатрично разстройство, което не е регистрирано от 19-ти век насам.