Sztuczna inteligencja zmienia sposób, w jaki zdobywamy wiedzę, podejmujemy decyzje i rozumiemy świat. Chatboty wyszukują informacje, piszą teksty, tworzą obrazy i coraz częściej doradzają w sprawach osobistych – wskazali eksperci podczas Festiwalu Przemiany w Centrum Nauki Kopernik. Zwrócili uwagę, że zdobywanie określonych umiejętności oraz sprawczości wymaga wysiłku intelektualnego, a nie bezkrytycznego przyjmowania odpowiedzi i rozwiązań dostarczanych przez algorytmy.
Korzystamy z AI podczas pracy, nauki i codziennych czynności, sięgamy po jej porady przed podjęciem ważnych decyzji. Podczas XVI edycji Festiwalu Przemiany organizowanego przez Centrum Nauki Kopernik, eksperci i uczestniczy szukali odpowiedzi na festiwalowe pytanie: „czy AI myśli za ciebie” i zastanawiali się, jakie mogą być tego konsekwencje dla społeczeństwa.
Wpływ AI na samodzielność myślenia, budowanie kompetencji oraz sprawczość analizowali podczas panelu mistrzowskiego pt. „Po rozum do głowy, czy do AI?” prof. Michael Gerlich z The Human Factor Association, dr Gabriela Czarnek z Uniwersytetu Jagiellońskiego i dr hab. Konrad Talmont-Kamiński z Uniwersytetu w Białymstoku, przy aktywnej moderacji dr Iwo Zmyślonego z Uniwersytetu Warszawskiego.
Prof. Gerlich zwrócił uwagę, że podstawowym problemem z AI, nawet w dużych korporacjach, jest spłaszczanie jej znaczenia do działań z obszaru technicznego i informatycznego.
„Tymczasem konsekwencje są znacznie szersze i wykraczają daleko poza obszar informatyczny, wpływając na całą organizację. Dlatego zarządy przed zastosowaniem AI powinny analizować przede wszystkim jej wpływ na pracowników i ocenić skutki dla całej organizacji w dłuższej perspektywie” – powiedział ekspert.
Według dr Gabrieli Czarnek warunkiem pozytywnego doświadczenia i korzystania z AI jest zachowanie sprawczości użytkownika, w tym możliwość rozumienia sytuacji i wpływania na nią.
Badaczka wyjaśniała, że skuteczność chatbotów wiąże się z ich personalizacją, czyli dopasowywaniem języka i argumentów do konkretnej osoby. Rozróżniła przy tym dwa zjawiska często łączone pod hasłem pochlebstwa (sykofancji).
„Pierwsze to emocjonalne utwierdzanie rozmówcy w poczuciu, że jest rozumiany i może bezpiecznie wyrażać swoje przekonania. Drugie polega na dobieraniu faktów i dowodów zgodnie z tym, co chciałby usłyszeć. Chatbot może korzystać z pierwszego mechanizmu, a równocześnie dążyć do zmiany opinii użytkownika” – zaznaczyła dr Czarnek.
Jak podkreśliła, „uprzejmy” chatbot może budzić zaufanie i tym skuteczniej wywierać na użytkowniku określoną perswazję.
Dr Czarnek dodała również, że po analizie ostatnich kampanii wyborczych na urząd prezydenta w USA i kampanii prezydenckiej w Polsce zauważyła, że pozornie niewielkich efektów perswazji nie należy lekceważyć. W tych konkretnych kampaniach efekty „perswazji chatbotów” wynosiły od 3 do 10 punktów procentowych wzrostu poparcia dla kandydatów. Wskazała, że tradycyjne reklamy i banery dają efekt wzrostu poparcia ok. 1 pkt. proc.
„Nie jest to uniwersalna miara skuteczności chatbotów w ogóle. Ponadto w analizowanych rozmowach nie obserwowano też oporu podobnego do reakcji na nielubianą reklamę” – zaznaczyła badaczka.
W odpowiedzi prof. Gerlich ostrzegał, że rozmowy z chatbotami mogą ujawniać preferencje, przekonania i reakcje użytkowników. Przywołując Cambridge Analytica i ich działania poprzedzające Brexit wskazywał na możliwość wykorzystania danych do profilowania i precyzyjnej perswazji.
Dr hab. Konrad Talmont-Kamiński podkreślał z kolei, że sama informacja o zagrożeniach nie wystarcza, podobnie jak ostrzeżenia na paczkach papierosów nie gwarantują zmiany zachowania.
W jego opinii trzeba kształtować społeczne warunki kontaktu z AI i zadbać o kontrolę nad technologią, której rozwój pozostaje w rękach niewielkiej grupy podmiotów.
„Samo ostrzeżenie użytkownika nie zastępuje namysłu nad tym, jakie zachowania promuje sam system, kto wyznacza jego cele i czy interesy dostawców odpowiadają potrzebom społeczeństwa” – powiedział naukowiec.
Przyznał, że sam używa sztucznej inteligencji w swojej pracy, ale raczej jako interlokutora do podważania jego hipotez.
W odpowiedzi na taką deklarację prof. Gerlich zarekomendował, żeby najpierw myśleć samodzielnie, a sztuczną inteligencję włączać do działania dopiero po samodzielnym zmierzeniu się z problemem.
„Chodzi o to, żeby AI poszerzała nasze rozumowanie, a nie zastępowała ćwiczenia umiejętności. Używaj AI tak, by to >>bolało<<” – powiedział profesor, wyjaśniając, że chodzi o wysiłek poznawczy, a nie fizyczny ból.
Dr Iwo Zmyślony powiązał tę zasadę z ograniczaniem przenoszenia procesów poznawczych na narzędzia (cognitive offloading).
„Nie mam nic przeciwko używaniu AI jako narzędzia do zapisywania i przechowywania wiedzy, a chatbotów do poznawania różnych perspektyw, ale to my sami powinniśmy konfrontować stanowiska i podejmować decyzje” – podkreślił.
Przestrzegał jednocześnie przed antropomorfizacją, czyli przypisywaniem AI osobowości, intencji czy świadomości, gdyż może to budować nadmierne zaufanie. Przypomniał o „efekcie Elizy” – wywodzącym się z programu ELIZA stworzonego w 1966 r. przez Josepha Weizenbauma, który wykazał psychologiczną skłonność ludzi do przypisywania programom komputerowym oraz sztucznej inteligencji ludzkich cech takich jak świadomość czy empatia.
Dr hab. Konrad Talmont-Kamiński zauważył, że w tworzeniu takich wyobrażeń mają udział interfejsy i przekazy medialne.
„Precyzyjny język powinien przypominać, że są to zaprojektowane technologie, które ludzie mogą kontrolować” – ocenił.
Z kolei dr Czarnek postulowała ujawnianie, kto sponsoruje AI. Zwróciła przy tym uwagę, że informacja o źródle finansowania danego systemu owszem daje kontekst do oceny przekazu, ale nie gwarantuje ochrony przed manipulacją.
Według prof. Gerlicha sztuczna inteligencja jest już w pracy, edukacji i przekazach medialnych. Wskazał, że unikanie bezpośredniej rozmowy z chatbotem nie oznacza więc życia poza oddziaływaniem tej technologii w sposób pośredni.
Zwrócił uwagę na możliwość wykluczenia osób, które nie nadążają za zmianami na przykładzie cyfryzacji płatności i usług w Szwajcarii. Początkowo było to zjawisko opcjonalne, z czasem stało się warunkiem uczestnictwa w życiu społecznym.
Na zakończenie dyskusji eksperci byli zgodni, że bezpieczna współpraca z AI wymaga od ludzi zdolności do wysiłku, uczenia się na błędach i samodzielnego osądu, połączonego z przejrzystością narzędzi oraz społeczną i instytucjonalną odpowiedzialnością za ich dalszy rozwój i nadzór.
