一个相机应用，本地鉴黄还是调用在线 api

[flase]

一个美颜相机产品，要对拍出来的照片进行审核，如果存在色情，禁止保存并上报。
知道大厂有很多识别 api ，但是把每一张照片都上传检测不符合隐私政策。想用本地大模型检测又考虑到用户手机配置不一定带的动，而且模型更新不及时。
现在的思路是：先在本地过滤一次，风险分高的照片调用在线 api 进行检测，这种方法怎么样？
听一下大家的意见:)

[dann73580]

不太能够理解，是有分享功能么？如果是纯本地，我拍什么照片不是我说了算吗？再加审计有侵犯隐私嫌疑吧？

[flase]

@dann73580 前一段同行的新闻，有小孩用他们的产品拍了自己穿“皇帝的新衣”的照片，还分享出去了，结果照片有他们产品的水印，美颜相机一般都有水印。最重要的是：被小孩家里人知道了，找他们公司讨要说法。

[kulous]

协议加上就能规避了吧！有必要上墙？

[gpt5]

手机厂提供的摄像头 责任可比 app 大多了

[deorth]

特色菜刀实名制

[wujianhua22]

脱了裤儿放屁的行为，法律规避而不是要去功能实现，建议问问专业律师。

[xiaoqian713]

@applem4mini 你没有回答一楼的问题，带分享功能，就在分享前做个过滤进行拦截。如果只是保存本地相册，就不用做过滤

[FrankAdler]

本地模型或者算法不太可行，大部分业务研发也没这个技术水平和精力维护改进算法，我这边类似的功能都是调用三方 api ，省事。

[cndenis]

@xiaoqian713 楼主的问题是, 带美颜相机水印分享黄图出去, 会影响美颜相机这个品牌. 存本地也可以通过微信发送本地图片分享. 所以要解决这个问题就是要在打水印的时候做检测

[bigtan]

我自己在家拍点好看的照片 你又是本地鉴黄 又是上传 API 谁敢用

[haython]

@applem4mini 这都应该找小孩家里人要说法，你拍这个还分享，影响了我公司的声誉

[Motorola3]

你再分享那一步鉴黄即可 本地随便拍你没法管 建议直接走三方毕竟不贵

[gitdoit]

够离谱的, 不管怎样, 要让用户知道你把人家照片传到后台了是不是? "尊敬的用户,我们现在要将该照片上传到云端进行鉴黄.请知悉" "抱歉,您的照片有涉黄风险,已被系统自动删除."

[ronyin]

这个是否能通过协议规避，直接告诉他，如果传播黄色图片，自行承担法律责任。。

[hello2090]

@applem4mini 问公司要说法的多了去了，你本地剑皇人家也要和你讨说法你怎么办？

[janus77]

为啥上传就不符合隐私规范啊？我理解用户拍照了如果是自己想上传，那传上去以后都是符合规范的吧？如果用户不想上传，那你为什么要检测他的照片？他又不会发给别人

[shadowyue]

这需求够离谱，成本考虑过吗，还是大公司不差钱🐶

[shadowyue]

这个需求的预算应该加到你司法务部，让这些来找事的打不赢

[NessajCN]

小孩子拿刀砍死了人，司法机构不去追究父母的管教失职，这父母反而来找刀贩子讨说法？

[LiYanHong]

做好了一定要告知用户你们会看照片

[wanderingq]

你为什么要为虎作伥呢？你想让📷扫你手机的显示吗，这个软件你自己会用吗？别做恶了

[czfy]

macm3max ，是不是还是你？原本的号改了名变成仿站长的 @L1vld ，现在新开一个 applem4mini 又来？

https://v2ex.com/t/1028980

[leaflxh]

“动不了手机厂商还动不了你？”

一个相机 APP 还要对用户产生的内容负责？

你要说把拍出来的照片存到你的服务器，那么你需要对你服务器上的内容做合规，那还说的过去

存在用户本地还要鉴黄可够离谱的

已经想到了用户第一次打开软件的情形

用户隐私协议：“为了保证内容的合规，我们会对你所拍摄的内容进行识别，请不要拍摄包括但不限于：迪克，浦西，以及军用设施等内容。如果进行传播，我们将依法追究法律责任”

[Pters]

典型的不考虑用户隐私，可以说下产品名称吗，我好规避下哈哈。

[ixixi]

以后相机也要用手机号登录 , 人脸识别之后才能用

[ixixi]

@ixixi 单反相机

[cnrting]

李艳红本红

[g0python32]

对于这件事, 宁愿被大厂拿去也不敢被小厂拿去, 所以除了原生相机, 我都不敢安装别的相机相册 app

[wuyadaxian]

[不打水印] 不就好了。
你见过有人追责手机自带相机 app 的吗。

[cyrivlclth]

爱剪辑有话说。。。。

[Huelse]

离谱？建议楼上的了解下欧盟的儿童保护法规，不光是照片，连聊天内容都是要监督的
https://news.ycombinator.com/item?id=37826775

[mokiki]

偷用户自拍黄片，还直接剪切走不给用户留一份。真有你的！

[vevlins]

任何事情都不用做，防御过了，没事找事。

潜在风险低，你做的事收益不高，成本还不少，根本不划算。

[wanderingq]

@Huelse 欧盟做的就是对的吗？以高光伟正之名进行审查，即便初心是好的，也会因为权力不受约束而造成对个人隐私的忽视，对人权的践踏

[NoOneNoBody]

本地鉴黄不太难，已有模型
True 不打水印
False 打水印

除了烦心以及名声外，上水印应该没有法律责任吧，又不是后台偷偷拍照
好多泄密瓜都是微信聊天，微信负责不？

[dann73580]

@applem4mini 公司角度规避风险可以理解，但这么做爆出来只会损害更大吧？我能理解分享要加检测但本地检测实在是有点匪夷所思了。

[Inn0Vat10n]

@applem4mini 我比较关心这个同行后面败诉了吗

[noahlias]

儿童法规确实要这么严厉

成年人的世界太可怕了

[ufogxl]

读取用户照片，谁敢用啊…

[ztcaoll222]

感觉应该做个需求替换，比如青少年模式下，非家长同意，不允许分享

[xiaomageit]

可以看下 phi-3 这个模型 手机上可以运行，另外可以选择 配置低于多少 走 api 否则走本地模型呗

[flase]

@ztcaoll222 保存到相册，然后通过其他社交软件发出去的图片

[flase]

@Inn0Vat10n
@shadowyue 来要说法是到线下撒泼打滚，老年人谁敢动，这种情况找谁都没用。

[maixiang520]

非要做的话，做实名认证/年龄限制/家长控制之类的会不会比较好，如果是认证之后，小孩偷摸拍了不雅照片，可以解释是平台已经尽了责，并且有提前告知，但是家长监管不力造成的。不过这种最好还是看法务和老板的意见吧，其他人不够专业也很难拍板，容易出问题。

[byzod]

总结一下

既要打水印
又不想对内容负责

[bianhui]

去问问华为产品，说不定人家已经都用上了。

[Misakas]

什么 app 说一下，以后避雷绝不会用了

[ajaxgoldfish]

牛逼，开了眼了。

[wtfedc]

涉及到图片展示，鉴黄鉴政是基本操作吧，看各位如临大敌，你们用 app 难道都不用头像功能的？或者是发动态，都不带图片的？

[flyqie]

@wtfedc #49

这有什么关系吗?

一个不涉及到上传的应用要在本地给用户做鉴黄，你觉得合理吗?

[flyqie]

@Huelse #31

欧盟法规存在说明这个行为可以理解甚至是正确的是吗?

完全没理解你想表达什么，如果你说的是上面的内容的话，只能说，欧盟有很多离谱的法律，片面的去照搬不是什么好事。

[Huelse]

@wanderingq #34
@flyqie #51
说明这个需求是普遍性的，或者正在逐渐受到重视。
甚至可以说隐私问题在另一个更大的问题面前不值一提，所以导致这个过程对普通人来说是相当不妥。

[yol947]

所以分享到了哪？什么社交软件？难道不应该由他们负责嘛？