Firma Exdrog wykluczona z przetargu przez halucynacje AI – sztuczna inteligencja podała fikcyjne przepisy
Firma Exdrog, działająca w branży budowlano-drogowej, przekonała się, że wykorzystanie sztucznej inteligencji w dokumentacji przetargowej bez odpowiedniej weryfikacji może mieć poważne konsekwencje. Spółka została wykluczona z postępowania przetargowego dotyczącego utrzymania dróg w Małopolsce. W jej ofercie znaleziono bowiem fikcyjne dane oraz nieistniejące interpretacje podatkowe, wygenerowane przez narzędzie oparte na AI.
To jeden z pierwszych przypadków w Polsce, w których zastosowanie sztucznej inteligencji doprowadziło do tak znaczących skutków prawnych. Sprawa pokazuje, że automatyzacja procesów nie zwalnia przedsiębiorców z obowiązku rzetelnego sprawdzenia przedstawianych informacji.
Przetarg w Małopolsce – pozornie najkorzystniejsza oferta
Zarząd Dróg Wojewódzkich w Krakowie ogłosił przetarg na utrzymanie dróg wojewódzkich. Wśród oferentów znalazła się firma Exdrog, która zaproponowała wykonanie prac za 15,5 mln zł. Początkowo oferta wydawała się atrakcyjna cenowo, dlatego zamawiający poprosił o wyjaśnienie, czy kwota nie jest rażąco niska. W odpowiedzi wykonawca przekazał 280 stron analiz i kalkulacji, które miały potwierdzić zasadność wyceny. Dokumentacja zrobiła wrażenie — do czasu, gdy konkurencja zaczęła przyglądać się jej bliżej. 😬
Halucynacje AI zamiast prawa
Firma Mika, reprezentowana przez kancelarię BSJP, odkryła, że część argumentów przedstawionych przez Exdrog pochodzi z narzędzia sztucznej inteligencji. Jak wyjaśnił Jarosław Sroka, partner w kancelarii BSJP, wykonawca „powoływał się na nieistniejące, nigdy niewydane interpretacje podatkowe, które rzekomo dotyczyły podobnych spraw”. W praktyce oznaczało to, że system AI – zamiast znaleźć właściwe akty prawne – „zmyślił” przepisy, tworząc tzw. halucynacje. Na tej podstawie sporządzono analizy podatkowe, które ostatecznie wprowadziły zamawiającego w błąd.
Decyzja Krajowej Izby Odwoławczej
Po ujawnieniu nieprawidłowości sprawa trafiła do Krajowej Izby Odwoławczej (KIO). W orzeczeniu stwierdzono, że Exdrog nie zweryfikował informacji wygenerowanych przez narzędzie AI i przedstawił zamawiającemu dokumenty zawierające nieprawdziwe dane. KIO uznała, że takie działanie stanowi wprowadzenie w błąd i wykluczyła firmę z dalszego postępowania przetargowego. Decyzja ta została uznana przez ekspertów za przełomową. Po raz pierwszy w Polsce oficjalne orzeczenie dotyczyło odpowiedzialności za skutki błędnego użycia sztucznej inteligencji w dokumentach urzędowych.
Przełomowy przypadek na rynku zamówień publicznych
Przypadek Exdrogu stanowi ostrzeżenie dla wykonawców i instytucji publicznych, które coraz częściej sięgają po narzędzia generatywnej AI do analiz, raportów czy przygotowywania ofert. Choć sztuczna inteligencja może znacząco przyspieszyć pracę i obniżyć koszty, wymaga też pełnej kontroli merytorycznej ze strony człowieka. Eksperci przypominają, że odpowiedzialność za treść dokumentów zawsze spoczywa na wykonawcy – niezależnie od tego, z jakich narzędzi korzysta. W przypadku Exdrogu „droga na skróty” okazała się wyjątkowo kosztowna. 🚧
AI w przetargach – pomoc czy zagrożenie?
Przypadek Exdrogu może stać się punktem odniesienia dla przyszłych regulacji i standardów dotyczących użycia AI w zamówieniach publicznych.
Warto więc potraktować go nie tylko jako ostrzeżenie, lecz także jako impuls do świadomego i odpowiedzialnego wdrażania technologii sztucznej inteligencji w biznesie.
