Sprawa 14-letniego Sewella, który wskutek interakcji ze stworzonym przez siebie chatbotem w Character AI – „Dany” [nawiązanie do postaci Denerys Targaryen z GoTa], popełnił samobójstwo, ponownie wzbudziła gorącą dyskusję dot. wpływu GenAI na dzieci i młodzież. I zdążyła się przenieść na salę sądową.
Ale od początku:
Po śmierci chłopca, Character AI wprowadziło nowe funkcje bezpieczeństwa np.:
- osobny model AI dla nastolatków
- blokady wrażliwych treści
- bardziej widoczne komunikaty informujące użytkowników, że wygenerowane postacie AI nie są prawdziwymi ludźmi
W październiku 2024 Megan Garcia (matka Sewella) składa pozew przeciwko Character AI w Sądzie Okręgowym na Florydzie.
Wg Garcii jej 14-letni syn rozwinął emocjonalną więź z chatbotem „Dany”, z którym stale wymieniał wiadomości — do tego stopnia, że zaczął izolować się od prawdziwego świata.
W związku z tym Garcia domaga się:
- Uznania odpowiedzialności platformy za potencjalnie szkodliwe wypowiedzi chatbotów.
- Dalszych zmian w działaniu platformy.
Chodzi o uniemożliwienie chatbotom w Character AI opowiadania historii i osobistych anegdot. Pozwoliłoby to uniknąć sytuacji, w której użytkownik (szczególnie dzieci) ma wrażenie, że rozmawia z prawdziwą osobą.
W styczniu 2025 Character AI składa wniosek o oddalenie pozwu.
Pełnomocnik platformy twierdzi, że Character AI jest chroniona przed odpowiedzialnością na mocy Pierwszej Poprawki – tak jak kod komputerowy.
Co by to miało oznaczać?
Pierwsza Poprawka gwarantuje wolność słowa. Dzięki niej firma technologiczna nie może odpowiadać za szkodę wyrządzoną osobom trzecim np. na skutek szkodliwej wypowiedzi – w tym wypadku „rzekomo skutkującej samobójstwem”.
Wg pełnomocnika Character AI:
- Nie ma znaczenia czy użytkownik rozmawia z chatbotem AI czy postacią z gry wideo. Znaczenie Pierwszej Poprawki jest takie samo.
- Generowane treści mają być formą ekspresji chronioną przez prawo. Zmiany, których domaga się Garcia miałyby radykalnie ograniczyć możliwość rozmowy użytkowników z chatbotem.
- Gdyby Character AI przegrało proces – głównie to prawa użytkowników wynikające z Pierwszej Poprawki miałyby zostać naruszone.
- Prawdziwym zamiarem Garcii jest „zamknięcie” Character AI i wprowadzenie regulacji podobnych technologii. Co miałoby mieć „mrożący wpływ” zarówno na platformę, jak i na cały przemysł GenAI.
Wyrok w tej sprawie będzie mieć ogromne znaczenie nie tylko dla dalszego rozwoju GenAI. Może stworzyć precedens, który wpłynie na ocenę odpowiedzialności platform GenAI za generowane treści.
A w przypadku tak złożonego i niezbadanego problemu jakim jest oddziaływanie interakcji z AI na dzieci – ma szansę dostarczyć nowych argumentów i perspektyw.
Źródło zdjęcia: cottonbro studio
Teksty umieszczone na Linkedin lub mojej stronie internetowej mają charakter wyłącznie edukacyjny. Proszę nie traktuj ich jako porady prawnej w konkretnej sprawie. Sposób stosowania przepisów może się znacznie różnić w zależności od danej sytuacji. Informacje zawarte w artykułach nie dotyczą konkretnej sprawy a każdy stan faktyczny wymaga odrębnej analizy prawnej.
