Sztuczna inteligencja (AI) obiecuje większą wydajność i niezawodność w działaniach sektora publicznego, ale złożoność zamówień publicznych utrudnia jej przyjęcie. Aby pomóc rządom w osiągnięciu potencjalnych korzyści z AI przy jednoczesnym zabezpieczeniu dobra publicznego, Centrum Czwartej Rewolucji Przemysłowej Światowego Forum Ekonomicznego przygotowało kompleksowy i autorytatywny zestaw wytycznych dotyczących zamówień publicznych na rozwiązania AI. Autorzy pracowali w porozumieniu z Deloitte, Salesforce i brytyjskim rządowym Biurem ds. Sztucznej Inteligencji, korzystając z partnerstwa z dodatkowymi przedstawicielami sektora publicznego i prywatnego, środowisk akademickich i społeczeństwa obywatelskiego.
Streszczenie zostało przetłumaczone maszynowo (przepraszamy za niedoskonałości tłumaczenia) jako materiał uzupełniający na nasze szkolenia i wyjazdy integracyjne.
Wnioski
Zastosowanie konkretnych wytycznych poprawi proces zamówień na usługi AI i jego wyniki.
Procesy zamówień publicznych powinny opisywać problemy i możliwości, a nie wymagać konkretnego rozwiązania.
W RFP należy przedstawić korzyści i zagrożenia dla społeczeństwa związane z wykorzystaniem AI.
Zamówienia powinny być zgodne z aktualnymi strategiami rządowymi i przyczyniać się do ich poprawy.
RFP powinno uwzględniać odpowiednie prawo, zasady i normy.
Urzędnicy odpowiedzialni za zamówienia powinni zapewnić dostęp do danych i właściwe zarządzanie nimi.
RFP powinno określać ograniczenia w wykorzystaniu danych wynikające z czynników technicznych lub kwestii etycznych.
Zespół RFP powinien składać się z różnych członków o wielodyscyplinarnym zestawie umiejętności.
Proces udzielania zamówień publicznych powinien promować odpowiedzialność i przejrzystość.
Urzędnicy odpowiedzialni za zamówienia powinni ustanowić proces umożliwiający stały transfer wiedzy i ocenę ryzyka.
Zespół ds. RFP powinien promować uczciwość w procesie zamówień publicznych i wcześnie angażować się w kontakty z dostawcami.
Podsumowanie
Zastosowanie konkretnych wytycznych poprawi proces zamówień na AI i jego wyniki.
Urzędnicy odpowiedzialni za zamówienia powinni najpierw określić, czy AI może być rozwiązaniem konkretnego problemu, a dopiero potem rozpocząć proces zamówień. Stosowanie tych wytycznych pomoże urzędnikom osiągnąć cele polityki, promować korzyści publiczne, zarządzać ryzykiem i dostosować projekty AI do standardów zamówień publicznych.
„Rządy nie mają swobody w stosowaniu niezrozumiałych algorytmów typu „czarna skrzynka”, które coraz częściej charakteryzują SI wdrażaną przez przemysł”.
Procesy zamówień publicznych powinny opisywać problemy i możliwości, a nie wymagać konkretnych rozwiązań.
Zapytanie ofertowe (RFP), które opisuje problemy i możliwości – a nie wymaga konkretnego podejścia – przyniesie optymalne rozwiązania, zachęci do innowacji i będzie promować rozwój etyczny. Praktyki te wspierają rolę rządu jako twórcy rynku. Strategicznie wybrać podejście do zamówień publicznych i wykorzystać najlepsze praktyki dostosowane do szybkiego tempa rozwoju AI.
W RFP należy przedstawić korzyści publiczne i ryzyko związane z wykorzystaniem AI.
Wyartykułowanie celów związanych z korzyściami publicznymi – w tym takich wartości jak przejrzystość – przyczyni się do wyboru rozwiązania, które będzie je traktować priorytetowo. Przeprowadzić systematyczną ocenę ryzyka, aby zidentyfikować potencjalne obszary problemowe i rozpocząć poszukiwanie strategii, które je rozwiążą. Monitorowanie ryzyka powinno być kontynuowane przez cały cykl życia rozwiązania.
„Określając potrzeby użytkowników, urzędnicy powinni być pewni, że działają w interesie publicznym”.
Zamówienia publiczne powinny być dostosowane do aktualnych strategii rządowych i przyczyniać się do ich poprawy.
Dostosowanie procesu zamówień do istniejącej strategii rządowej może ułatwić realizację drugorzędnych celów politycznych, umożliwić uzyskanie korzyści skali i zapewnić dostęp do wsparcia dostępnego dla programów, które są zgodne ze strategią.
RFP powinno uwzględniać odpowiednie prawo, zasady i normy.
Przestrzeganie odpowiednich przepisów, zasad i norm będzie wspierać zgodność, standaryzację i jakość tworzenia polityki. Oprócz formalnego prawa, należy uwzględnić odpowiednie najlepsze praktyki dotyczące poufności, ochrony własności intelektualnej i prywatności danych, w tym te dostępne w źródłach branżowych i organizacjach handlowych.
Urzędnicy odpowiedzialni za zamówienia publiczne powinni zapewnić dostęp do danych i właściwe zarządzanie nimi.
Na początku – przed rozpoczęciem rozmów o zamówieniach na AI – należy określić potrzeby programu w zakresie danych i zapewnić dostęp do niezbędnych danych. Przed rozpoczęciem projektu należy ustalić odpowiednie mechanizmy nadzoru nad danymi. Określić, w jaki sposób i na jakich warunkach będą Państwo udostępniać dane sprzedawcom podczas procesu zamówień.
RFP powinno określać ograniczenia w wykorzystaniu danych wynikające z czynników technicznych lub kwestii etycznych.
Zespół ds. zamówień publicznych powinien ocenić wrażliwość danych i rozważyć wymagania dotyczące zarządzania danymi podczas procesu zamówień publicznych i projektu. Ustalić, czy ograniczenia techniczne lub etyczne dotyczące wykorzystania dostępnych danych mogą wpłynąć na uczciwość, wiarygodność lub adekwatność podejścia AI.
„Pielęgnowanie powstającego ekosystemu AI jest kluczową inwestycją gospodarczą w przyszłość”.
Zespół RFP powinien składać się z różnorodnych członków o wielodyscyplinarnym zestawie umiejętności.
Zróżnicowany zespół będzie w stanie zaoferować różnorodne perspektywy i ograniczyć potencjał stronniczości. W zespole powinni znaleźć się członkowie, którzy wnoszą wiedzę i umiejętności obejmujące wszystkie dyscypliny związane z AI, takie jak inżynieria danych, modelowanie, projektowanie informacji i wiedza z danej dziedziny.
Proces zamówień publicznych powinien promować odpowiedzialność i przejrzystość.
Zapewnienie odpowiedzialności poprzez ustanowienie środków kontroli zewnętrznej i niezależnej oceny rozwiązania AI. Promowanie przejrzystości w zakresie podejmowania decyzji przez SI, np. poprzez wymaganie dokumentacji algorytmów i opisów metodologii wykorzystywanej do budowy modeli. Rozważenie odpowiedniej równowagi pomiędzy przejrzystością a dokładnością.
„Istnieją solidne praktyki etyczne, które powinni Państwo wymagać od dostawców, aby wykazali się przy dostarczaniu rozwiązań AI”.
Urzędnicy ds. zamówień publicznych powinni ustanowić proces umożliwiający stały transfer wiedzy i ocenę ryzyka.
Wdrożenie systemu AI wymaga wsparcia w całym cyklu życia, w tym bieżącej oceny i wymiany informacji między dostawcą a podmiotem zamawiającym. Należy stworzyć podstawę dla transferu wiedzy, szkoleń i testów w trakcie trwania projektu.
Zespół ds. RFP powinien promować uczciwość w procesie zamówień publicznych i wcześnie angażować się w rozmowy z dostawcami.
Zespół RFP może zapewnić uczciwość i konkurencję, docierając do sprzedawców i nietradycyjnych interesariuszy za pomocą różnych środków, w tym platform mediów społecznościowych. Dzięki wczesnemu zaangażowaniu zespół może ocenić wykonalność projektu i wykorzystać wiedzę fachową sprzedawców przy opracowywaniu wymagań. Wczesne zaangażowanie pomaga również w budowaniu potencjału rynku.
O autorze
Światowe Forum Ekonomiczne angażuje czołowych liderów politycznych, biznesowych, kulturalnych i innych w celu kształtowania globalnych, regionalnych i branżowych programów.