私人AI如何帮助开发人员和设备制造商保护儿童

 
智能手机和社交媒体通常被称为我们时代的香烟-一种上瘾的破坏性癌症。无论是沉迷于虚假信息还是与欺凌和虐待作斗争，孩子们尤其容易受到渗透到数字世界的腐败的影响。
但是，尽管互联网可能具有毒性，但数百万年轻人才知道一个通​​过MySpace，Facebook，Instagram，YouTube，Twitter，Snapchat，WhatsApp和其他社交平台与人类互动的世界。试图阻止后代使用此类服务​​的父母从一开始就面临艰巨的战斗，因此越来越多的责任落在科技公司上，以使互联网成为一个更加愉快的地方。
这些平台背后的大多数公司都试图通过引入声称可以解决至少某些问题的功能来解决日益严重的技术反弹。例如，Instagram现在使用AI在用户发布令人反感的文字之前警告用户，希望他们重新考虑。在其他地方，Alphabet分支Jigsaw正在与发布商合作开发可让用户过滤掉辱骂性评论的技术。
财大气粗的科技巨头至少有资源和AI专业知识来尝试解决问题，但是规模较小的公司……就不那么多了。这是瑞士初创公司Privately希望通过向开发人员和设备制造商提供工具来添加福祉和安全功能的工具来开拓一个利基市场，以保护数字时代的儿童。
私家侦探
Privately于2014年在瑞士洛桑成立，其软件可与任何应用程序集成，并使其能够检测与儿童在线通信有关的安全标记。然后，它提供了有关网络欺凌，隐私等方面的指南。
几年前，Privately推出了以消费者为中心的移动应用程序Oyoty，以演示其技术。 Oyoty最初是一个可下载的移动应用程序，可链接到用户的社交帐户(Facebook，Instagram和Twitter)，从而对“问题”进行发布，并在必要时进行干预。它的自动机器人可能会建议孩子不要分享敏感信息(例如电话号码)，或者如果他们在照片中皮肤过多，则提醒他们。
在过去的几年中，Oyoty不断发展，并且在少数欧洲市场仍在开发中。私下告诉VentureBet，该公司目前正在与一家主要的设备制造商进行“高级讨论”，以在多个国家的硬件上提供Oyoty的定制版本。
但是，为了达到真正的规模，Privately正在推进B2B领域，以使其基础技术对任何人和所有人都可用。自9月份以来，其在线健康与安全(OWAS)技术就已面世，英国广播公司(BBC)在英国推出Own It移动应用和键盘时，便是最早使用该技术的第三方组织之一。
“自己拥有”背后的一般想法是，孩子们安装该应用程序并将其设置为设备上的默认键盘(大概是在父母的坚持下)。然后，只要应用程序检测到不良信息，孩子就会收到警告，提示和实时建议。
例如，如果有人在Google搜索中输入“我有自杀倾向”字样，则会弹出键盘上的一条小消息，告诉他们与可以帮助的人交谈，并提供免费的支持电话。
在其他地方，BBC的Own It键盘可以检测用户何时写了一些卑鄙的内容，并要求他们在发布之前重新考虑。
同样，如果有人尝试共享个人信息，例如电子邮件地址或电话号码，则该应用程序将提示用户重新考虑。
英国广播公司(BBC)自己的应用程序可帮助演示开发人员可以使用某些私有技术的方式。而且，Privately计划扩大其视野，以包括其他形式的数字通信，包括语音。
私人首席执行官兼联合创始人迪帕克·特瓦里(Deepak Tewari)对VentureBeat表示：“语音是当务之急，因为它在许多环境中正在缓慢替换文本。” “到2020年，我们将在语音方面至少具有一些功能。”
Oyoty应用程序还提供了有关如何利用其底层AI进行可视化交流的信息，包括检测照片中“皮肤过多”的功能。
私下里说，它已经对其系统进行了培训，以“了解多种模式”，以确定哪些不合适或哪些不合适。 Tewari说，它考虑了照片的上下文(例如，是在室内还是室外拍摄的，以及它是个人拍摄还是家庭拍摄)，以“解释图像是否具有挑衅性”。
私下里迅速强调说，其技术已部署在设备本身上，这不仅有助于提供快速，实时的指导，而且还可以提高其隐私权，因为数据不会传输到远程服务器。随着像GDPR这样的以隐私为中心的法规扎根，这对于应用程序开发人员而言可能是一大卖点。
Tewari补充说：“通过与[BBC]合作开发的Own It应用程序的保护隐私的AI元素是业界首创的，”。
迄今为止，除了一笔用于为其瑞士研发基地提供资金的赠款外，私人还得到了瑞士天使投资人的支持。该公司还准备在2020年初从英国投资者筹集资金，这就是为什么Privately现在在伦敦开设办事处的原因。
就其商业模式而言，私人表示，它主要是通过将技术许可给公司来获得收入，这些公司可以选择他们希望使用的功能。公司还可以自定义其技术，需要额外付费才能满足特定的客户要求。
对于Privately来说，还处于初期，但该初创公司已经与慈善机构，防病毒公司和电信公司合作，与游戏行业的公司合作进行各种概念验证。今年早些时候，Privately被邀请加入公平竞争联盟(Fair Play Alliance)，这是一个致力于改善游戏体验的游戏公司工作组。腾讯还私下邀请参与未成年人新保护标准的制定。
特瓦里说：“总体上，人们非常有兴趣。”
福利
作为其核心，Privately正在利用不断增长的数字健康趋势。早在7月，Instagram推出了一项新的自动化功能，该功能可在用户在照片或视频下方发布辱骂或霸凌评论之前向用户发出警告，该功能最近已扩展为字幕。
但是降低毒性只是其中的一部分-私下也关注个人层面的福祉。
Tewari继续说道：“尽管毒性和仇恨言论是困扰互联网的一个大问题，但我们看到我们更广泛地关注数字福祉这一主题。” “为此，我们将开发能够更好地理解数字环境以及用户的技术，并为用户提供个性化的帮助，使其与技术之间建立积极的关系。”
这是大型移动平台提供商正在大力投资的领域，Google和Apple都推出了各种工具来改善人们与数字设备的关系。对于整个领域的技术公司来说，它可能将越来越成为人们关注的焦点。私人认为，它可以通过为孩子提供额外的保护，从而提高在线时间的质量，而AI可以填补无法全天候监控其后代的父母的空白。