HCAI w procesie SDLC

AI zmienia nasze życie - chyba co do tego faktu nie mamy wątpliwości. Na około widać coraz więcej use casów oraz zastosowań, które implementujemy w różne obszary naszego życia. Można się pokusić o stwierdzenie, że ta rewolucja będzie równie wielka jak np. pojawienie się samochodów bez których teraz nie możemy sobie wyobrazić naszego świata. Samochody zmieniły wszystko - od architektury i planowania urbanistycznego miast, po naszą psychologię i nasze codzienne zachowania i wybory. AI również przyniesie wiele zmian, choć pełna skala tych zmian jest jeszcze raczej niewyobrażalna...

Te zmiany dotyczą i będą dotyczyć także projektowania i budowy systemów informatycznych. Wiele firm już teraz wdraża lub rozważa wdrożenie systemów opartych na generatywnej AI (GenAI) i dużych modelach językowych (LLM) do swoich ekosystemów informatycznych. Niedawno miałem okazję uczestniczyć w opracowywaniu koncepcji dla projektów związanych z tymi technologiami. Są to nowe obszary, w których brak jeszcze ogólnie przyjętego know-how dotyczącego projektowania interakcji człowieka z takimi systemami, uwzględniania różnych aspektów oraz radzenia sobie z różnorodnymi wyzwaniami. 

Obserwujemy już jednak pewne zmiany w projektowaniu interakcji ludzi z systemami. Dotychczas dominowało podejście UCD (User Centered Design), które skupia się na tworzeniu intuicyjnych i użytecznych produktów, które są "przyjazne" dla swoich użytkowników. Jednakże od niedawna coraz więcej uwagi poświęca się HCAI (Human Centered AI), czyli projektowaniu, które zapewnia, że AI działa w harmonii z ludźmi i wspiera ich działania. Teraz projektujemy interakcje między ludźmi a AI. Oczywiście, oba podejścia można łączyć i wzajemnie uzupełniać. 

Jak wdraża się HCAI w procesach SDLC? Poprzez integrację różnych zasad projektowania skoncentrowanego na interakcji człowieka z AI na każdym etapie cyklu SDLC. Czyli na etapie planowania i analizy wymagań zbiera się potrzeby użytkowników oraz uwzględnia m.in. kwestie etyczne i dotyczące bezpieczeństwa (mały exkurs w przyszłość... ciekawe jak to zmieni EU Data Act?). Podczas projektowania tworzy się interaktywne interfejsy i funkcje XAI (Explainable AI), czyli AI wyjaśnia swoje decyzje, aby użytkownicy mogli zrozumieć na jakiej podstawie system podejmuje decyzje. W fazie implementacji stosuje się iteracyjne podejście, a w testowaniu przeprowadza się testy użyteczności, oceny etyczne, accuracy i hallucination testing. Już teraz sobie wyobrażam jak scenariusze testowe, albo DoR, DoD etc. będą wyglądać niebawem... 😊 Wdrożenie obejmuje szkolenia użytkowników i monitorowanie systemów, a utrzymanie polega na regularnych aktualizacjach i ciągłym doskonaleniu systemu na podstawie feedbacku od użytkowników. Wygląda na to, że niewiele jest zmian... jednak diabeł tkwi raczej w szczegółach … 😉 

Czy słyszałeś o HCAI? Co myślisz o tym temacie?

Post na LinkedIn: https://pl.linkedin.com/posts/cezaryochman_hcai-w-procesach-sdlc-ai-zmienianasze-activity-7201119517761011713-0IiW