9月14日，紐約曼哈頓檢方宣布查扣12個網站網域。有人涉嫌利用AI，把約1,200人的照片、影片，製作成未經本人同意的性影像，再發布、販售，受害者大多是女性。 ​ 她沒有拍過那些影片，卻得向別人解釋：「那不是我。」 ​ 這則新聞，讓我想這兩天滑到的一篇短文。 ​ 有學生發文說，他看到室友用AI，把班上女同學的照片改成裸露影像，該怎麼辦。許多人在抨擊，有些人說沒證據亂告會出事，竟然還有人回應：現在很容易做到呀？還好吧？，大意就是：「你自己收藏就好，不要外流，應該還好吧。」 ​ 這些話，已經慢慢變成檯面上。 ​ 所以，只要沒有傳出去，就可以隨便拿別人的臉，製作這些影像嗎？那位女同學有沒有同意，在這個討論裡，好像根本不重要。 ​ 幾則留言無法代表所有人，但那種輕鬆的語氣讓我擔心：在某些圈子裡，這件事好像已經被當成日常，大家只提醒彼此別外流，卻沒有問：「你為什麼可以這樣對待她？」 ​ 照片拿得到、工具做得到，就代表可以做嗎？ ​ 當一個真實的人，被當成可以上傳、修改、收藏的素材，我們會不會也忘記，照片背後的人，有自己的感受和界線？ ​

​ 另外一次課程裡，談到這個議題，也有人「一直」回應：「你就說那不是你啊！說是假的就好了，不用承認。」 ​ 我理解，這可能是想幫當事人找一個辦法。但她原本就沒有需要「承認」的事，為什麼又是她得一直回應？ ​ 她沒有做錯事，卻得解釋、澄清，還要想辦法讓自己不要在意。至於製作的人、轉傳的人，還有提供工具的平台，我們問了他們多少問題？ ​ 就算大家都知道是假的，她也可能會害怕：明天進教室，同學會怎麼看我？我的照片還在誰的手機裡？ ​ 一句「你就說是假的」，真的能讓這些擔心消失嗎？ ​ - ​ 這也是我覺得，AI時代談數位素養，不能只停在辨識真假。孩子還需要理解：沒有外流，不等於得到同意；影像是合成的，也不能拿來當作不必尊重人的理由。 ​ 同時，我們也得問問科技業者：工具越做越方便，保護有沒有一起跟上？ ​ 推出影像生成功能時，有沒有預先考慮被拿來傷害人的風險？照片上傳後，怎麼被保存、使用？遭到冒用的人，能不能快速申訴？已經下架的影像，又如何減少它再次出現？ ​ 都些保護制度幾乎都沒有！ ​ 這些問題，不能等到有人受傷了，才請她自己想辦法。 ​ 我們可以教孩子求助、陪他處理，也應該把更多目光放回製作、散布影像的人，以及工具和平台的責任。 ​ - ​ 我希望，當孩子說「有人拿我的照片做這種事」，大人的第一句話，可以是：「謝謝你告訴我，我們一起處理。」 ​ 她不該一邊受傷，一邊向全世界證明自己。 ​ 工具越來越方便，對人的尊重，不能跟著越來越隨便。 ​ 文字/逸帆老師 ​ （邀請你加入兒少網路安全的討論）