人工智能：创造未来还是安全威胁？
GPT-4 让人工智能再一次冲击了人类的认知。旅行计划、创作歌曲、撰写学术论文和生成代码都已经是上一代的事情了。现在的 GPT-4 能够根据设计草图生成网站，根据图片中的食材生成菜谱，还能理解梗图。据 OpenAI 透露，GPT-4 通过了所有基础考试，而且还是高分通过。在模拟律师资格考试的成绩在考生中排名前 10％左右，在 SAT 阅读考试中排名前 7％左右，在 SAT 数学考试中排名前 11％左右。其表现已经超过了 90%的人类。
短短几个月之内，我们能看到 AI 的能力在高速提升，同时也能感受到 AI 可能带来的危害：在社交媒体上冒充他人进行诈骗、在色情网站上模拟真人进行性交易、在论坛上发布虚假信息或散布谣言等，甚至有人询问 AI 如何制造炸弹。
除此之外，AI 的应用过程也会出现侵犯用户隐私的情况。2019 年，谷歌被曝光智能音箱存在安全漏洞，导致用户的语音指令和回应被无意中记录并保存在了谷歌服务器上。这些数据包括用户的个人信息、位置信息和个人喜好等，涉及用户隐私和安全。
这些案例表明，AI 能给个人信息安全和社会公共秩序带来风险。这也是 AI 应用颇具争议的地方。如果不能够正确地应对，AI 的阴暗面将会限制其自身的发展。这背后，其实就是数据安全问题。
01
人工智能带来独特的安全风险
训练AI所需的样本数据，来源是否合法，用途是否合法？
AI 的背后是海量数据，训练和应用需要大量的样本，这些数据的采集和使用往往需要考虑到数据隐私和安全保护等问题。例如训练 AI 识别垃圾邮件，那么需要考虑如何处理用户的电子邮件内容，以避免泄露用户的隐私信息。
AI是否会篡改“历史”？
随着 AI 的普及，AI 将成为人们的主要信息来源。其提供的不健康、不正确信息有可能误导大众。AI 应用也可能存在信息滥用的情况，例如利用AI进行虚假消息的生成、社交网络上的恶意言论生成等，这些都有可能造成社会面消息混乱。
AI提供的数据是否会超出权限？
AI 回答问题的能力令人惊叹，但其回答的内容是否需要进行管控。例如利用 AI 获得恶意代码、社会工程方法，反而成了违法人员的赋能工具，或者获得敏感信息，甚至重要数据。这些都有可能给社会带来危害。
02
保护数据安全和隐私安全的建议
针对 AI 的这些隐患，小编总结了一些措施和建议，希望大家在应用 AI 的过程中有所考虑。
合规管理数据使用
企业在使用 AI 时需要遵守相关的法律法规，如《个人信息保护法》、《网络安全法》等，严格管理和使用数据，不得超出法律规定的范围和目的。同时，要保持透明和公正，告知用户数据的收集和使用方式，征得用户的明确同意，并尽可能减少数据的收集和使用范围。
开展数据安全评估
企业要定期进行安全漏洞和风险评估，及时发现和解决安全问题，避免数据泄露和滥用。
加强数据保护措施
在使用 AI 的过程中，必定涉及大规模数据的管理。企业需要加强对数据的保护，确保数据安全和隐私安全。要制定合理的数据管理政策和流程，包括对数据的分类、存储、备份和销毁等方面。同时，考虑使用数据加密、脱敏等措施，防止数据泄露和滥用。
03
结语
人工智能的应用给我们带来了很多便利和可能，从 ChatGPT 两月突破一亿用户的表现来看，AI 未来会成为产生观点和信息的重要出口。AI 是喉舌，也是话语权。我们在拥抱 AI 的同时，也需要加强对 AI 的安全防范和监测，确保其应用能够符合伦理和法律标准，使其为社会发展带来积极作用。
关于闪捷信息：
闪捷信息（Secsmart）是一家专注数据安全的高新技术企业，创新性提出“云·管·端”立体化动态数据安全理念，在业界率先将人工智能、前沿密码技术成功应用于数据安全领域，实现对结构化和非结构化数据资产的全面防护。产品范围涉及大数据安全、云数据安全、应用数据安全、数据防泄漏、工业互联网安全、数据安全治理以及数据安全治理服务等，已广泛应用于政府、电力、金融、运营商、医疗、教育等行业。
