„Jak zabít svého kamaráda během školní hodiny.“ Takový dotaz zadal student během vyučování chatbotovi ChatGPT na školním počítači.

Monitorovací systém založený na AI Gaggle ho okamžitě vyhodnotil jako hrozbu a upozornil na něj personál školy. Na místo dorazila policie a chlapce odvedla ze zařízení v poutech.

Školák policii sdělil, že šlo o srandu. Vzhledem k rozšířenosti masových střeleb na školách v USA nejsou podobné incidenty podceňovány.

Úřad šerifa okresu Volusia potvrdil, že chlapec byl zatčen a umístěn do zařízení pro mladistvé.

Kontroverzní dohled

Incident znovu otevřel debatu o používání sledovacích systémů ve školách. Gaggle byl navržen tak, aby sledoval „alarmující chování“ studentů na školních počítačích. Na podezřelé či nebezpečné chování v reálném čase upozorňuje školu i úřady.

Ačkoli se těmto nástrojům připisuje schopnost předcházet i závažným hrozbám, podle kritiků vytvářejí v učebnách „stát digitálního dohledu“.

Konkrétně Gaggle čelí kritice za řadu falešných poplachů a za kontrolu nad soukromými zprávami dospívajících.

Úřad šerifa vyzval rodiče, aby se svými dětmi hovořili o „zodpovědném chování“ v online prostoru.