澳洲学生们
正在使用有害的人工智能应用程序和网站，
来生成同学的色情和视频。
教育工作者发警告：随着此类技术的普及，
更多年轻人的
人生将被“毁掉”。
1
澳洲学生滥用这一技能
深度伪造技术（Deepfake），是被称作“生成式对抗网络”（GAN）的机器学习模型将或视频合并叠加到源或视频上，借助神经网络技术进行大样本学习，将个人的声音、面部表情及身体动作拼接合成虚假内容的人工智能技术。深度伪造最常见方式是AI换脸技术，此外还包括语音模拟、人脸合成、视频生成等。
而众多学生却利用AI来制造更多”裸照“和视频，不少女生成为受害者。
5月24日，新州 Hunter School of the Performing Arts 一名男生利用人工智能技术篡改了新州中学300多张女生的照片，其中一些受害者的年龄仅为12岁。
一名年仅13岁的女生在镜子前自拍了一张纯真的照片，但最终却被篡改了一张令人震惊的照片。这名受害者说：”他截屏了，然后利用人工智能伪造了我的裸照。“
然而，这名男生仅仅被停课10天就返回了教室。这引发了众多学生及家长不满，质疑为什么没有被开除。
新州教育部随后证实新州警方正在调查该校发生的事件。
此前一天，至少50 名维州私立学校Bacchus Marsh Grammar 9-12年级女学生成为受害者，有人制作和传播包括学校社区学生图像在内的视频内容。
有受害者看到虚假的裸照后直接呕吐了，甚至不敢去上学。
维州警方在一份声明中表示，警方已向一名 17 岁男孩发出警告，因其涉嫌在网上传播露骨。
“经过广泛调查，警方认为此案已经结案。”
家长们告诉《先驱太阳报》，他们对针对制作这些照片的男孩没有采取任何行动感到愤怒。
一位家长表示：“几乎没有对他采取任何行动，这太不公平了。”
“很多年轻女孩因此受到影响。”
另一名家长表示警方调查的结果“令人失望”。
“这些女孩因此必须接受心理咨询。这确实对她们产生了影响。”
“我希望学校继续就这个问题进行教育，因为这些新技术可能会被用于险恶的目的。”
上个月，Salesian College 的一名 15 岁学生因使用人工智能应用程序制作了一名女教师的色情而被开除。
据了解，吉朗的多所学校已就类似事件寻求帮助，包括学生使用人工智能制作色情“深度伪造”和基于图像的辱骂。
而这样的事件正在各地上演。
2
引发教师们和专家们的不安
《先驱太阳报》的分析发现了数十种人工智能换脸和身体改造程序，可以让用户在几分钟内生成生动的照片。
一些网站专门为用户制作“深度伪造裸照”、“脱光”照片中的人物以及将人脸处理成色情内容而设计。
其中一个网站的描述是“最好的人工智能裸体识别应用程序，可以让你看到任何人的裸体”。
更令人担忧的是，一些手机应用程序的建议年龄低至四岁，而且很少有应用程序仅限于成人使用。
教师们对人工智能被用于“制作裸照”以及在经过篡改的图像中制作“深度伪造裸照”的行为发出了警告。
墨尔本东南部的一名小学老师告诉《先驱太阳报》，他“非常担心”人工智能在课堂上的滥用。
“六年级的孩子正在访问这些网站和应用程序，作为教育工作者，我们感到担忧……”
另一位小学教育工作者表示，需要“更严格的监管”来防止儿童和青少年使用这些在线工具。
“我看到很多孩子在玩弄人工智能应用程……如果使用不当，更多年轻人的人生可能会被毁掉。”
顶尖专家也呼吁在课堂上普及人工智能知识，并表示需要就这一问题上开展更多的教育。
今年6月，联邦政府出台立法，禁止制作和分享深度伪造色情内容，作为打击针对妇女的暴力行为的措施之一。
墨尔本大学人工智能与数字伦理中心联合主任 Jeannie Paterson 教授表示，年轻人需要了解什么是深度伪造。
“教育部推出了尊重关系培训……但我认为他们需要教育人们，如果在未经同意的情况下制作或分享亲密照片，这是一种犯罪行为。”
“我们需要人工智能素养。”
维州性侵犯服务中心首席执行官 Kathleen Maltzahn 表示，教育部需要更多资源来应对校园性暴力。
网络安全专员 Julie Inman Grant 表示，基于图像的滥用，包括制作深度伪造的图像和视频，是一种持续的网络伤害，也是最严重的侵犯隐私行为之一。
墨尔本皇家理工大学社会法律学者 Nicola Henry 教授说：“我想到的是，一群学生可能会认为这很有趣，但他们并没有意识到这种行为的危害或法律影响。”
“我觉得在教育方面投入资源和资金更为重要，同时我们需要让社交媒体公司对其平台上的内容负责。”
Henry 教授去年对那些被分享过虚假的人进行了一项调查，发现澳大利亚的受害者比例（3.7%）远远高于全球平均水平（2.2%）。
之所以频繁出现这类事件是因为澳大利亚存在性别暴力的文化问题。
色情内容的便捷获取和人工智能等技术很可能使这一问题更加严重。人们从很小的时候就开始接触色情内容，包括暴力内容。2024 年澳大利亚的一项研究显示，超过 52% 的男性和 32% 的女性报告称，他们在 14 岁之前就看过色情内容。
观看色情内容与女性被性物化有关。故意观看暴力限制级内容也与性侵犯行为可能性的显著增加有关。
研究清楚地表明，性虐待和性骚扰是一个性别问题。妇女、女孩和性别多元化人士受到的影响尤为严重。而男性和男孩实施这些犯罪的可能性则要大得多。
总体而言，18.2% 的16-24 岁受访者报告其在童年时期遭受过青少年性虐待，而 45 岁及以上受访者中这一比例为 12.1%。
超过 15% 的女性和 24% 的 16 岁及以上性别多元化参与者报告称他们在童年时期受到青少年的性骚扰，而男性的比例仅为 5%。
超过 90% 遭受同伴性骚扰的人都是由男性同伴实施的。
这位教授补充道：“不幸的是，目前还没有大量的研究来检验深度伪造或人工智能生成的图像滥用的程度或影响。”
3
父母应该怎么办？
虽然解决方案的一部分可能来自成人网站的年龄验证技术，但研究还表明，我们需要采取初级预防措施。这意味着首先要努力阻止这种行为的发生。
这必然涉及改变所有年轻人在暴力和性别方面的文化规范。父母和学校是关键。
父母需要为孩子留出空间来谈论棘手和令人担忧的事情。你可以这样做：
1. 尽早沟通
通过尽早开始对话，帮助您的孩子以舒适的方式与你交谈。关于身体自主权和界限的对话可以从小学开始。随着孩子的成长，关于性同意、健康关系、色情和色情短信的对话也可以开始。
要学会倾听您孩子要说的话。
2. 让对话变得有规律
我们不能期望孩子第一次或每次都能很好地接受或回应父母的问题。所以要保持对话简短而规律，并且以孩子为主导。
3. 采取行动应对担忧
保持冷静，与孩子交谈并倾听他们。关注他们的健康，询问他们的感受以及你可以做些什么来支持他们。还要留意他们可能需要进一步支持的迹象，例如与学校、警察交谈或向电子安全委员会报告。
