人工智能一直是各国政府关注的焦点，它们担心人工智能会被滥用于欺诈、虚假信息和其他恶意网络活动；现在，英国的一家监管机构正准备探讨如何将人工智能用于打击一些同样的行为，特别是与对儿童有害的内容有关的行为。
负责执行英国《网络安全法案》的监管机构--英国通信管理局宣布，它计划就目前和未来如何使用人工智能和其他自动化工具主动检测和删除网上非法内容，特别是保护儿童免受有害内容侵害，以及识别以前难以发现的儿童性虐待材料等问题展开咨询。
这些工具将是通信管理局正在制定的一系列以在线儿童安全为重点的更广泛建议的一部分。通信管理局表示，有关综合建议的咨询将在未来几周内开始，人工智能咨询将在今年晚些时候进行。
英国通信管理局网络安全组主任马克-邦廷（Mark Bunting）说，该局对人工智能的兴趣始于研究人工智能作为筛选工具在当今的应用情况。
他在接受采访时说："有些服务确实已经使用这些工具来识别和保护儿童免受这些内容的影响。但关于这些工具的准确性和有效性的信息并不多。我们希望研究如何确保业界在使用这些工具时进行评估，确保言论自由和隐私的风险得到控制，与许多网络安全法规一样，企业有责任确保采取适当措施和使用适当工具来保护用户。"
一个可能的结果是，通信管理局将就平台应如何评估以及评估哪些内容提出建议，这不仅有可能导致平台采用更先进的工具，而且如果平台未能在屏蔽内容或创造更好的方法阻止年轻用户看到内容方面做出改进，还可能被处以罚款。
这些举措既有批评者，也有支持者。人工智能研究人员正在找到越来越复杂的方法，利用人工智能来检测深度伪造等行为，以及验证在线用户。然而，同样也有很多怀疑论者指出，人工智能检测远非万无一失。
英国通信管理局在宣布就人工智能工具进行咨询的同时，还公布了其对英国儿童上网方式的最新研究，研究发现，总体而言，上网的低龄儿童比以往任何时候都要多，以至于英国通信管理局目前正在细分更低年龄段的活动。
一项针对美国家长的调查显示，在所有 5 至 7 岁的儿童中，有近四分之一（24%）的儿童现在拥有自己的智能手机，如果算上平板电脑，这一数字将上升到 76%。同一年龄段的孩子在这些设备上也更多地使用媒体：65%的孩子打过语音和视频电话（一年前这一比例为 59%），一半的孩子（一年前这一比例为 39%）正在观看流媒体。
一些主流社交媒体应用程序的年龄限制越来越低，但在英国，无论限制是什么，这些限制似乎都没有得到重视。英国通信管理局发现，约有 38% 的 5 至 7 岁儿童正在使用社交媒体。其中，Meta 的 WhatsApp 以 37% 的比例成为最受欢迎的应用程序。TikTok有30%的5至7岁儿童使用，Instagram"仅"有22%，这可能是Meta公司的旗舰图像应用程序首次被认为不如ByteDance的病毒式传播流行。Discord 名列榜首，但受欢迎程度明显较低，仅占 4%。
约有三分之一（32%）的这个年龄段的孩子会自己上网，30% 的家长表示，他们对未成年孩子拥有社交媒体个人资料没有意见。YouTube 儿童仍然是最受年轻用户欢迎的网络，占 48%。
游戏是儿童的长期最爱，5-7 岁儿童中使用游戏的比例已增长到 41%，这个年龄段的儿童中有 15%在玩射击游戏。
虽然 76% 的受访家长表示，他们会与年幼的孩子谈论安全上网的问题，但通信管理局指出，在孩子看到的内容与孩子可能报告的内容之间还存在问号。在调查 8-17 岁的大孩子时，通信管理局直接采访了他们。调查发现，32% 的孩子报告说他们在网上看到过令人担忧的内容，但只有 20% 的家长说他们报告过什么。
即使考虑到一些报告的不一致性，"研究表明，年龄较大的儿童在网上接触到的潜在有害内容与他们与父母分享的网上经历之间存在脱节"，Ofcom 写道。令人担忧的内容只是一个挑战：深度伪造也是一个问题。通信管理局称，在 16-17 岁的儿童中，25% 的人表示他们没有信心辨别网上的真假。