NFT欧洲展：采访Irakli Beridze

NFT 欧洲展：采访 Irakli Beridze

Beridze 先生在指导多边讨论和建立国际利益相关者参与计划方面拥有 20 多年的专业知识，在协助世界各国政府制定人工智能战略、行动计划、路线图和政策文件方面发挥了重要作用。

在接下来的问答环节中，Beridze 先生分享了对联合国处理人工智能的方法、人工智能对社会和经济的潜在影响以及实现负责任的人工智能开发和部署必须解决的问题的独特见解。

我们很高兴地宣布，联合国犯罪司法所人工智能和机器人中心负责人 Irakli Beridze 先生慷慨地回答了一些关于他在人工智能 (AI) 领域的专业知识和工作的问题。

1. 您对技术和安全的热情在 UNICRI 的工作中体现得淋漓尽致。您能否分享激发您深入研究这一利基市场并最终加入 UNICRI 的关键时刻或经历？

感谢您的提问！在过去 23 年的整个职业生涯中，我都在研究技术风险和收益的“双重性”及其对安全的影响。在我职业生涯的开始，我致力于与化学武器裁军有关的问题，但要确保和平利用化学的好处在世界各个角落得到充分理解和广泛使用。同样，我通过支持在更广阔的世界发展上述领域的知识和专业知识，致力于减轻化学、生物、放射性和核武器的风险以及联合国成员国的能力建设。在过去的 8 年里，我负责的项目旨在确保使用人工智能等呈指数级增长的前沿技术来解决与犯罪相关的问题，但要以负责任的方式，以符合人权的方式进行！上述二元性之间的平衡对于技术发展和总体安全治理至关重要。

2. 随着网络安全威胁的不断增加，您认为最紧迫的威胁是什么？我们可以采取哪些创新方法来有效应对这些威胁？

首先，存在不同种类的网络威胁和不同种类的网络攻击。最常见的网络攻击类型之一是勒索软件攻击，这是一种加密受害者文件并要求付款以换取解密密钥的恶意软件。它是对各种规模的组织的主要威胁，并可能导致严重的中断和财务损失。一种对抗勒索软件的创新方法是实施有效的备份和灾难恢复策略，这可以帮助组织快速从攻击中恢复而无需支付赎金。

网络钓鱼是另一种突出的网络攻击，网络罪犯通常通过表面上合法的电子邮件诱骗个人泄露敏感信息。这种攻击依赖于未解决的网络威胁；即，社会工程学。

社会工程是网络犯罪分子用来利用的技术，不是网络安全弱点，而是人为错误。它可能涉及冒充、欺骗或利用信任。一种对抗社会工程学的创新方法是为员工提供培训和意识计划，这有助于教育他们了解风险以及如何识别和应对社会工程学攻击。

然而，作为 UNICRI 的一部分，我处理的其他网络威胁是各种网络犯罪，这些犯罪正在上升，特别是在线儿童性剥削和性虐待。这种犯罪是一种日益增长的主要威胁，由于社交媒体和在线聊天室等技术的发展，这种威胁呈指数级增长。我们在人工智能和机器人中心的主要项目之一是促进使用创新技术来打击这种犯罪类型，例如使用机器学习算法来识别和追踪受害者或肇事者。

总的来说，重要的是要认识到这些网络安全威胁需要一种全面的方法来有效应对。这包括实施从一开始就优先考虑安全性的设计安全技术、创新方法（例如使用人工智能实时检测和响应威胁）、提供培训和意识计划，以及参与公私合作与法律执法部门和其他利益相关者共享威胁情报和资源，以便调查和起诉网络犯罪分子。

3. 根据您的经验，您是否观察到人工智能或区块链等新兴技术在打击网络犯罪方面发挥了重要作用？这些技术如何重新定义网络安全的未来？

是的，我观察到人工智能和区块链等新兴技术在打击网络犯罪方面发挥着重要作用。例如，人工智能可用于分析大量数据并识别可能表明网络威胁的模式和异常。同样，区块链可以提供防篡改和去中心化的分类账，有助于保护数据和交易。作为 UNICRI 人工智能和机器人中心的负责人，我与世界各地的执法代表进行了交谈，他们证明人工智能已经在许多领域做出贡献并产生影响。诀窍在于找到合适的领域和应用，以最大限度地发挥特定人工智能工具的潜力。

例如，从我们在 AI for Safer Children 倡议的工作中，我们亲眼看到 AI 已经通过缩短调查时间等方式为打击在线儿童性剥削和性虐待做出贡献——面部识别和物体检测工具可以帮助将文件与同一受害者或大量数据中的设置联系起来，以在调查中建立案例。根据每天使用这些工具的我们网络成员的说法，过去需要 1 到 2 周才能分析虐待儿童图像和视频的时间现在可以在 1 天内完成。人工智能工具还有助于处理积压，将取证积压从 1.5 年以上显着缩短至 4 至 6 个月。这段时间可以为受害者带来不同的世界。

然而，这些工具不能单独使用——它们只是帮助人类调查人员进行优先级排序和时间管理。这就是为什么人工智能在网络安全方面的前进方向考虑了责任和道德原则以便被更广泛地接受和采用的一个例子，这反过来又需要新的法规和治理模式来确保这些技术以合乎道德的方式使用和负责任的。

如果坚持责任原则，这些技术确实有可能重新定义网络安全的未来，使我们能够更快、更有效地检测和应对威胁。

4. 在当今的数字世界中，平衡安全需求与个人隐私权是一项复杂的挑战。您在该领域遇到了哪些主要障碍，政府和组织如何克服这些障碍？

你提出了一个非常重要的问题。通过与国际刑警组织一起实施一个项目并在欧盟委员会的支持下，我们了解到大量与使用人工智能相关的陷阱以及解决这些问题的主要挑战。
我们正在共同开发执法部门负责任的人工智能创新工具包——一份实用且以操作为导向的指南，旨在支持执法界负责任地开发和部署人工智能，尊重人权和道德原则。如果我们要挖掘人工智能的真正潜力，公众对安全和合乎道德地使用人工智能的信心是有效实施的必要先决条件，并且只能通过多个利益相关者采取的步骤来实现。

首先，科技公司应该从开发之初就实施隐私和道德规范，创建透明、可解释和负责的人工智能系统，例如确保人工智能系统使用无偏见的数据进行训练。其次，最终用户必须将人为监督纳入决策过程，并意识到其潜在的偏见和缺点，并尽可能向公众公开他们使用人工智能的方式和时间。与社区和利益相关者接触也很重要，以确保他们对隐私和偏见的担忧得到解决，并建立对在执法中使用人工智能的信任。最后，政府必须建立明确的法律和监管框架来管理人工智能在执法中的使用。
维护隐私和其他人权的关键是问责制和人为监督，这是通过这些系统的开发和使用方式的透明度来实现的。我并不是说我们发布任何和所有敏感信息供公众查看，而是在开发创新技术的每个阶段都进行可靠的评估，并在部署后进行定期审查。

最终，重要的是要认识到隐私和安全并不相互排斥[我们从很多角度听说隐私和安全之间不可能是零和游戏]，并且需要一种平衡的方法来开发具有隐私的创新解决方案 -通过设计以及保护公众免受人工智能的滥用。

5. 联合国等国际组织在加强网络安全和遏制网络犯罪方面可以发挥什么作用？这些组织如何促进与不同利益相关者更有效的合作以实现他们的目标？

联合国等国际组织可以在加强网络安全和遏制网络犯罪方面发挥重要作用，为包括政府、私营部门组织、民间社会团体和技术专家在内的各利益相关方提供信息共享和协作平台。其举措还可以为缺乏资源或专业知识以有效应对网络威胁的国家提供技术援助。

联合国实现这些目标的一种方式是通过建立联合研究计划、能力建设计划和其他促进网络安全最佳实践和创新的合作项目。联合国可以为成员国提供一个共享信息和最佳实践、制定共同标准和规范以及协调应对网络威胁的平台。例如，联合国区域间犯罪和司法研究所（UNICRI）专门研究预防犯罪和刑事司法，并自 2017 年以来在海牙运营其人工智能和机器人中心。该中心专门研究人工智能等前沿技术领域，既研究犯罪分子滥用这些技术的风险，也探索人工智能和其他工具打击犯罪的巨大潜力。

联合国的支持不仅提供了无国界网络犯罪所需的全球覆盖面，而且还有助于确保联合国的原则和价值观在其工作中得到固有的灌输。它努力推进多样性和包容性、人权和法治以及平等等原则，使联合国成为一个真正值得信赖的全球促进者，我们可以通过它团结不同利益攸关方的努力。可持续发展的原则进一步指导它关注的不仅仅是临时解决方案，而是着眼于政府和整个国际社会可持续能力建设的长期愿景。

为此，联合国等国际组织必须与当地社区和利益相关方接触，以确保在制定网络安全政策和计划时考虑到真正包容的观点和关切。最终，通过促进网络安全问题上的合作与协调，联合国等国际组织可以帮助为所有人营造一个更安全、更有保障的数字世界。

6. 我们渴望了解 UNICRI 最近在技术和安全领域开展的任何有趣的项目或举措。你能和我们分享一些亮点吗？

UNICRI 人工智能和机器人中心参与了许多旨在应对技术与安全交叉领域复杂和不断变化的挑战的倡议和项目。以下是我们近期工作的一些亮点：

1. AI for Safer Children 倡议和全球中心：全球中心是一个专供执法部门使用的平台，提供众多服务，包括适用于调查过程各个阶段的现有软件工具目录、学习中心和案例研究有关如何实施这些工具以及如何负责任地实施的指导。最后，该平台还提供了一个交流部分，调查人员可以在这里与来自世界各地的其他人联系，并分享他们在工作中使用 AI 的经验。为进一步建设能力，2023 年人工智能促进更安全儿童计划还将免费提供专门培训，以适应全球中心成员的具体需求和情况。
2. 执法中负责任的人工智能创新工具包：执法机构以符合人权和道德的方式开发和部署人工智能的实用指南。继 2018 年第一届国际刑警组织-犯罪司法所人工智能执法全球会议之后，其项目于 2021 年 11 月正式启动，工具包将于今年 2023 年推出进行测试。
3. 在执法调查中负责任地使用人脸识别：由于系统错误或滥用可能造成灾难性后果，全球执法调查中人脸识别技术的部署可以说是人脸识别技术最敏感的用例之一。这个域。从 2021 年初开始，犯罪司法所通过其人工智能中心与国际刑警组织、世界经济论坛和荷兰警方合作发起了这项倡议，对在执法调查中使用面部识别技术设定负责任的限制。这导致发布了联合出版物《人脸识别责任限制政策框架》中包含的拟议政策框架。

这些只是我们中心在技术和安全领域所做的令人兴奋和有影响力的工作的几个例子。我们的目标是继续创新并与世界各地的合作伙伴协作。

7. 当与会者为即将到来的活动做准备时，您希望通过您的演讲传达哪些见解？当前网络