Pierścień Gygesa i "etyczność" systemów IT

Czy w branży IT możemy projektować etyczne systemy? W obliczu działań wielkich korporacji, które wydają się funkcjonować bez żadnych ograniczeń, gdy nasze wszystkie ruchy są pod stałym monitoringiem, a regulacje dotyczące AI nadal "kiełkują" i przede wszystkim, gdy nasze dane stały się nową formą waluty? 

Powyższe kwestie są niezmiernie złożone. Niemniej jednak faktem jest, że systemy IT są coraz bardziej zintegrowane z naszym życiem codziennym, co oznacza, że mają coraz większy wpływ na nas, nasze otoczenie i całą ludzkość. Z tego powodu twórcy systemów IT powinni przynajmniej mieć świadomość pewnych fundamentalnych kwestii związanych z projektowaniem etycznych systemów. Etyczne systemy to... 

… ale zanim przejdziemy do przynajmniej części tych aspektów, wyobraź sobie, że posiadasz pierścień Gygesa. A był to mityczny artefakt, który czynił jego właściciela niewidzialnym. Gyges, gdy dowiedział się, że może działać bezkarnie korzystając z mocy pierścienia, popełnił różne przestępstwa, bo czuł się niewidzialny, tak jak my czujemy się czasem w Internecie. To spowodowało, że pierścień stał się metaforą ludzkiej skłonności do złego zachowania w przypadku braku nadzoru i odpowiedzialności. Co jest Twoim "metaforycznym" pierścieniem Gygesa, czyli co robisz by być "niewidzialnym" gdy serfujesz po sieci? Używasz Tor, vpn, wyłączasz/ograniczasz pliki cookie, unikasz publicznych hot-spotów, rezygnujesz z mediów społecznościowych, zakładasz anonimowe konta?

Wracając do tematu projektowania etycznych systemów. Są to systemy oparte na zasadach i wartościach moralnych, takich jak szacunek dla prywatności użytkowników, transparentność działania, ochrona danych osobowych, odpowiednie zabezpieczenia, eliminacja dyskryminacji i nierówności, oraz integracja etyki w procesach projektowych. 

W tym aspekcie pojawiają się też nowe standardy, takie jak np. standard ISO/IEC/IEEE 24748-7000, który skupia się na etycznych aspektach budowy systemów. Przykładem użycia tego standardu jest np. metoda Value Based Engineering (VBE), która uwzględnia wartości istotne dla interesariuszy danego projektu. Innym przykładem jest program certyfikacyjny IEEE CertifAIEd, który ma na celu zapewnienie, że systemy oparte na AI są projektowane, implementowane, wdrażane i używane zgodnie z najwyższymi standardami etycznymi.  

Co myślisz o tym temacie i jego złożoności? Czy w Twoich projektach były uwzględniane etyczne aspekty projektowania systemów?

Link do postu na LinkedIn: https://www.linkedin.com/feed/update/urn:li:activity:7165599725864304640/