利用Azure内容审查器审查违规内容(下)

分类：Azure作者：编程之家用户

上篇我们写道了，如何利用C#去调用Azure 内容审查服务API，来分析图片的内容，如果你还没有阅读可以先去看一下http://blog.51cto.com/shutong/2349406

通过编写代码的方式我们得到API分析出来的结果，那我们从这些结果中能得到什么信息呢？接下来我们就具体分析一下：


结果分析：
图片1

clip_image002

分析结果：

1. { 
2. "ImageUrl": "https://moderatorsampleimages.blob.core.windows.net/samples/sample2.jpg", 
3. "ImageModeration": { 
4. "CacheID": "bfa532c0-1db9-48de-a82c-976658f3ead1_636855389682874968", 
5. "Result": false, 
6. "TrackingId": "AE_ibiza_d7f4a439-2eea-483d-89ff-bed92bae1926_ContentModerator.F0_bef26e2e-9f66-42a0-b78a-a7329625bf85", 
7. "AdultClassificationScore": 0.021854378283023834, 
8. "IsImageAdultClassified": false, 
9. "RacyClassificationScore": 0.045791395008563995, 
10. "IsImageRacyClassified": false, 
11. "AdvancedInfo": [ 
12.         { 
13. "Key": "ImageDownloadTimeInMs", 
14. "Value": "1512"
15.         }, 
16.         { 
17. "Key": "ImageSizeInBytes", 
18. "Value": "273405"
19.         } 
20.       ], 
21. "Status": { 
22. "Code": 3000, 
23. "Description": "OK", 
24. "Exception": null
25.       } 
26.     }, 
27. "TextDetection": { 
28. "Status": { 
29. "Code": 3000, 
30. "Description": "OK", 
31. "Exception": null
32.       }, 
33. "Metadata": [ 
34.         { 
35. "Key": "ImageDownloadTimeInMs", 
36. "Value": "472"
37.         }, 
38.         { 
39. "Key": "ImageSizeInBytes", 
40. "Value": "273405"
41.         } 
42.       ], 
43. "TrackingId": "AE_ibiza_d7f4a439-2eea-483d-89ff-bed92bae1926_ContentModerator.F0_29c6b126-b9b0-45b8-a91b-b17537872905", 
44. "CacheId": "b5422d22-60ba-4b0e-9d13-22345a7e0f55_636855389704437977", 
45. "Language": "eng", 
46. "Text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n", 
47. "Candidates": [] 
48.     }, 
49. "FaceDetection": { 
50. "Status": { 
51. "Code": 3000, 
52. "Description": "OK", 
53. "Exception": null
54.       }, 
55. "TrackingId": "AE_ibiza_d7f4a439-2eea-483d-89ff-bed92bae1926_ContentModerator.F0_30897ca5-4826-4253-b7c5-8d951895522f", 
56. "CacheId": "221a1855-c504-487e-9d45-3b6809851fa1_636855389719124928", 
57. "Result": false, 
58. "Count": 0, 
59. "AdvancedInfo": [ 
60.         { 
61. "Key": "ImageDownloadTimeInMs", 
62. "Value": "322"
63.         }, 
64.         { 
65. "Key": "ImageSizeInBytes", 
66. "Value": "273405"
67.         } 
68.       ], 
69. "Faces": [] 
70.     } 
71.   },

Content Moderator 检测到这张图片含有文字，它利用光学字符识别 (OCR) 操作可预测图像中是否存在文本内容，并将其提取出来以进行文本审查，以及用于其他用途。 你可以指定语言。 如果未指定语言，则检测默认为英语。

clip_image004

图片2：

clip_image006

分析结果：

1. { 
2. "ImageUrl": "https://moderatorsampleimages.blob.core.windows.net/samples/sample5.png", 
3. "ImageModeration": { 
4. "CacheID": "216621de-bca6-449c-a154-4121adef455d_636855389761935570", 
5. "Result": false, 
6. "TrackingId": "AE_ibiza_d7f4a439-2eea-483d-89ff-bed92bae1926_ContentModerator.F0_7113e884-fd36-4a7b-a2c2-c97bbbea9a6f", 
7. "AdultClassificationScore": 0.0013530384749174118, 
8. "IsImageAdultClassified": false, 
9. "RacyClassificationScore": 0.0045312256552278996, 
10. "IsImageRacyClassified": false, 
11. "AdvancedInfo": [ 
12.         { 
13. "Key": "ImageDownloadTimeInMs", 
14. "Value": "851"
15.         }, 
16.         { 
17. "Key": "ImageSizeInBytes", 
18. "Value": "2278902"
19.         } 
20.       ], 
21. "Status": { 
22. "Code": 3000, 
23. "Description": "OK", 
24. "Exception": null
25.       } 
26.     }, 
27. "TextDetection": { 
28. "Status": { 
29. "Code": 3000, 
30. "Description": "OK", 
31. "Exception": null
32.       }, 
33. "Metadata": [ 
34.         { 
35. "Key": "ImageDownloadTimeInMs", 
36. "Value": "404"
37.         }, 
38.         { 
39. "Key": "ImageSizeInBytes", 
40. "Value": "2278902"
41.         } 
42.       ], 
43. "TrackingId": "AE_ibiza_d7f4a439-2eea-483d-89ff-bed92bae1926_ContentModerator.F0_12bffeff-2fc3-4d19-b62b-e519ad9d8952", 
44. "CacheId": "fe172aba-1b0b-47d8-9825-97ccb3913632_636855389783347659", 
45. "Language": "eng", 
46. "Text": "", 
47. "Candidates": [] 
48.     }, 
49. "FaceDetection": { 
50. "Status": { 
51. "Code": 3000, 
52. "Description": "OK", 
53. "Exception": null
54.       }, 
55. "TrackingId": "AE_ibiza_d7f4a439-2eea-483d-89ff-bed92bae1926_ContentModerator.F0_648b9a53-b213-4686-8c66-2b15311179c6", 
56. "CacheId": "2f015325-3653-487c-a9f5-0df8f953e593_636855389799193925", 
57. "Result": true, 
58. "Count": 6, 
59. "AdvancedInfo": [ 
60.         { 
61. "Key": "ImageDownloadTimeInMs", 
62. "Value": "400"
63.         }, 
64.         { 
65. "Key": "ImageSizeInBytes", 
66. "Value": "2278902"
67.         } 
68.       ], 
69. "Faces": [ 
70.         { 
71. "Bottom": 598, 
72. "Left": 44, 
73. "Right": 268, 
74. "Top": 374 
75.         }, 
76.         { 
77. "Bottom": 620, 
78. "Left": 308, 
79. "Right": 532, 
80. "Top": 396 
81.         }, 
82.         { 
83. "Bottom": 575, 
84. "Left": 594, 
85. "Right": 773, 
86. "Top": 396 
87.         }, 
88.         { 
89. "Bottom": 563, 
90. "Left": 812, 
91. "Right": 955, 
92. "Top": 420 
93.         }, 
94.         { 
95. "Bottom": 611, 
96. "Left": 972, 
97. "Right": 1151, 
98. "Top": 432 
99.         }, 
100.         { 
101. "Bottom": 510, 
102. "Left": 1232, 
103. "Right": 1456, 
104. "Top": 286 
105.         } 
106.       ] 
107.     } 
108.   },

该图片我们可以看到是多个人物照，检测人脸有助于检测个人身份信息 (PII)，例如图像中的人脸。可以检测每个图像中的潜在人脸和潜在人脸的数量。

响应包括以下信息：

l 人脸计数

l 检测到的人脸的位置列表

图片3

[该图片含有不可描述的成分，这里就不贴出了]

分析结果：

1. { 
2. "ImageUrl": "http://pic.pimg.tw/k110107632/1387547248-3785354604.jpg", 
3. "ImageModeration": { 
4. "CacheID": "bcfeb01b-a272-44c2-99c1-ddb06b986c76_636855389832432013", 
5. "Result": true, 
6. "TrackingId": "AE_ibiza_d7f4a439-2eea-483d-89ff-bed92bae1926_ContentModerator.F0_61f83a02-dae1-42c8-ab04-c046c87e71cb", 
7. "AdultClassificationScore": 0.79699718952178955, 
8. "IsImageAdultClassified": true, 
9. "RacyClassificationScore": 0.9772266149520874, 
10. "IsImageRacyClassified": true, 
11. "AdvancedInfo": [ 
12.         { 
13. "Key": "ImageDownloadTimeInMs", 
14. "Value": "379"
15.         }, 
16.         { 
17. "Key": "ImageSizeInBytes", 
18. "Value": "27436"
19.         } 
20.       ], 
21. "Status": { 
22. "Code": 3000, 
23. "Description": "OK", 
24. "Exception": null
25.       } 
26.     }, 
27. "TextDetection": { 
28. "Status": { 
29. "Code": 3000, 
30. "Description": "OK", 
31. "Exception": null
32.       }, 
33. "Metadata": [ 
34.         { 
35. "Key": "ImageDownloadTimeInMs", 
36. "Value": "2"
37.         }, 
38.         { 
39. "Key": "ImageSizeInBytes", 
40. "Value": "27436"
41.         } 
42.       ], 
43. "TrackingId": "AE_ibiza_d7f4a439-2eea-483d-89ff-bed92bae1926_ContentModerator.F0_7f007517-4ae5-4f83-a706-aef9ae7b6937", 
44. "CacheId": "b20a0404-4f79-4836-99fc-791e00e696bc_636855389845711870", 
45. "Language": "eng", 
46. "Text": "", 
47. "Candidates": [] 
48.     }, 
49. "FaceDetection": { 
50. "Status": { 
51. "Code": 3000, 
52. "Description": "OK", 
53. "Exception": null
54.       }, 
55. "TrackingId": "AE_ibiza_d7f4a439-2eea-483d-89ff-bed92bae1926_ContentModerator.F0_0831709f-edc0-4efd-8adc-f21f5857c884", 
56. "CacheId": "c5e7a1e2-2db7-4edd-9999-f9ba3a3efeef_636855389856806468", 
57. "Result": false, 
58. "Count": 0, 
59. "AdvancedInfo": [ 
60.         { 
61. "Key": "ImageDownloadTimeInMs", 
62. "Value": "2"
63.         }, 
64.         { 
65. "Key": "ImageSizeInBytes", 
66. "Value": "27436"
67.         } 
68.       ], 
69. "Faces": [] 
70.     } 
71.   }

它会评估成人和猥亵内容，并返回分析结果，评估操作返回 0 到 1 之间的置信度分数。 它还返回等于 true 或 false 的布尔数据。 这些值可预测图像是否包含潜在的成人或猥亵内容。


评语：我们可以使用代码方式或者其他方式提取你需要的信息放在你应用中，这样我们就可以实现智能内容审核服务。而不需要人工去干预。

原文地址：http://blog.51cto.com/shutong/2350092

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 dio@foxmail.com 举报，一经查实，本站将立刻删除。

相关推荐

在 Microsoft 云上构建应用程序
Microsoft云包括了Azure、PowerPlatform、Microsoft365、GitHub、Dynamics365等，虽然许多企业应用程序开发领导者了解在Azure上创建应用程序的价值，但事实是您可以将整个Microsoft云作为应用程序平台.有一篇文章：在Microsoft云上构建应用程序从应用程序开发角度介绍了M
Azure API Management (3) 配置自托管网关
《WindowsAzurePlatform系列文章目录》 我们在使用AzureAPIManagement(APIM)实现服务网关的时候，一般都是面向互联网的。比如场景一：AzureAPIManagement保护AzureVM上部署的ApacheWebService，客户端是来自于Internet的用户。整体的数据流是：用户->I
扩容Azure免费虚拟机的硬盘大小
微软免费使用一年的Azure虚拟机，默认提供了一个64G的磁盘，但是系统却只给分配了32个G，尝试了几次扩大分区，最终都导致系统崩溃了，只能重新开虚拟机，无奈，只好网上找来现成的脚本，自动调整分区大小，只需要输入想调整为多少G即可，终于成功把系统分区扩大了。更改分区大小的脚本：if[[$#-eq
乘风破浪，遇见未来元宇宙(Metaverse)之微软和Meta战略合作，选择Azure作为战略云供应商，帮助加速人工智能的研究和开发
2022年5月25日，Meta公司选择Azure作为战略云供应商，推进人工智能创新，深化PyTorch合作https://azure.microsoft.com/en-us/blog/meta-selects-azure-as-strategic-cloud-provider-to-advance-ai-innovation-and-deepen-pytorch-collaboration/微软致力于负责任地推进人工智能的
做一个能对标阿里云的前端APM工具下
上篇请访问这里做一个能对标阿里云的前端APM工具（上）样本多样性问题上一小节中的实施方案是微观的，即单次性的、具体的。但是从宏观上看，我需要保证性能测试是公允的，符合大众预期的。为了达到这种效果，最简单的方式就是保证测试的多样性，让足够多人访问产生足够多的样本来，但这对于一个
CA周记 - Build 2022 上开发者最应关注的七大方向主要技术更新
一年一度的MicrosoftBuild终于来了，带来了非常非常多的新技术和功能更新。不知道各位小伙伴有没有和我一样熬夜看了开幕式和五个核心主题的全过程呢？接下来我和大家来谈一下作为开发者最应关注的七大方向技术更新。AI能力的提升1.AzureOpenAIService终于来了开发人员可
【Azure 存储服务】Java Azure Storage SDK V12使用Endpoint连接Blob Service遇见 The Azure Storage endpoint url is m
问题描述使用AzureStorageAccount的共享访问签名(ShareAccessSignature)生成的终结点，连接时遇见  TheAzureStorageendpointurlismalformed(Azure存储终结点URL格式不正确)StorageAccountSDKinpom.xml:<dependency><groupId>com.azure</groupI
Azure Load Balancer : 简介
Azure提供的负载均衡服务叫LoadBalancer，它工作在ISO七层模型的第四层，通过分析IP层及传输层(TCP/UDP)的流量实现基于"IP+端口"的负载均衡。AzureLoadBalancer的主要功能负载均衡基于ISO四层的负载均衡，请参考下图(此图来自互联网)：端口转发通过创建入站NAT规则，
Azure实践之Azure monitor简介及如何为北二东二VM创建alert
各位好，今天继续来讨论关于Azure平台的技术问题，这次我们来讨论关于监控的话题，各个云平台都会为用户预留获取监控数据的接口，Azure也不例外，拿最基础用法来说，用户可以从AzurePortal中获取所需要的监控信息，比如Azure虚拟机的磁盘IO，CPU百分比，内存等，除此之外，还可以通过定义各种action，针对
了解Azure负载均衡解决方案
在以往我们创建高可用Web应用程序时，负载均衡器是必不可少的组件。我们都使用传统内部服务器的负载均衡器，其中我们的应用程序在N个实例上运行，负载均衡器位于这些服务器的前面，并根据某些预定义的算法和设置向后端服务器分配负载。迁移到云中，我们需要了解如何使用Azure组件实现相同的
使用Event Grid + Teams实现Azure VM创建提醒
AzureEventGrid是一个托管事件路由平台，使我们能够实时响应Azure中托管的应用程序或拥有的任何Azure资源中发生的更改。EventGrid处理来自Azure服务的内置Azure事件以及来自应用程序的自定义事件，并实时发布它们。它可以每秒动态扩展和处理数百万个事件，Azure为生产工作负载提供99.
Azure实践之使用automation管理服务器update
今天来谈一谈automation中另外一个很关键的内容，也就是updatemanagement，不同于configurationmanagement，updatemanagement主要用于管理windows以及LinuxVM中的补丁内容，当然和configurationmanagement一样，updatemanagement不仅仅可以管理Windows中VM的补丁，也可以管理non-Azure
轻松监听Azure service health 状态
下边来谈一谈Azure中Alert更多的应用，正常来说，云厂商都会有自己的SLA保证，比如目前来说，在可用性集里的虚拟机，SLA是99.95%，这点可以从商务角度保护客户的一部分利益。但是，从技术上来说，任何云都不可能保证100%的可用性，所以有些时候也会出现一些service的outage，对用户来说，第一时间知晓这
Azure虚拟机类型及大小介绍
MicrosoftAzure中提供了多种类型和大小的虚拟机，我们将通过本来来了解下微软具体提供了哪些类型和大小的虚拟机，以方便在项目过程中进行评估。类型大小说明常规用途B,Dsv3,Dv3, DSv2,Dv2,Av2, DCCPU 与内存之比平衡。适用于测试和开发、小到中型数据库和低到中等流量Web
使用Azure Function + Cognitive Services 实现图片自动化审核
假定我们正在运行某个应用程序，此应用程序需要用户在应用程序中提交大量图片文件，那么对于系统管理员来说手动审核这些图片是很消耗时间的，并且对于图片的审核也许并不是即时的。为了解决这一问题，这篇文章将向大家演示如何使用AzureFunction和CognitiveServices来对上传到应用程序的
颉一科技入选“创业者的黄埔军校”，这事儿靠谱！
中国-北京[2018.12.10]2018年12月7日，历时60余天，在超过150+的面试中，21家企业经三轮筛选晋级终审，最终14家企业在激烈的角逐中成功入选微软加速器·北京13期创新企业名单。颉一软件有幸拔得头筹，很快将与MicrosoftAzure开展深度合作，开启全面加速企业级用户数字化转型之路！微软加速器·
使用Logic Apps从Azure Blob存储中删除超过X天的文件
假定我们有某个应用程序会将文件存储到AzureBlob中，存储在Blob中的数据保存七天，七天以后需要对其进行删除。这需求可以使用AzurePowerShellRunbook来完成，但是我想看看是否可以用很少甚至没有代码来完成。经过一番探索我发现AzureLogicApp非常适合这种情况。你可以用LogicApp创
Azure实践之change tracking监控文件内容
接下来继续之前给各位介绍的内容，我们接着来谈下Azureautomation中关于configurationmanagement的内容，上一篇中介绍了关于inventory的应用，通过inventory，可以快速收集Azure与非Azure服务器中的资产信息。除此之外，configurationmanagement中changetracking也是个非常实用的功能，通
Azure网络安全
安全分层方法 数据几乎所有情况下，攻击者都会攻击以下数据：存储在数据库中的数据存储在虚拟机磁盘上的数据存储在Office365等SaaS应用程序上的数据存储在云存储中的数据存储数据和控制数据访问权限的人员有责任确保数据得到恰当保护。通常情况下，存在相应法规要
Azure资源托管标识浅析和实践
生成云应用程序时需要应对的常见挑战是，如何管理代码中用于云服务身份验证的凭据。保护这些凭据是一项重要任务。理想情况下，这些凭据永远不会出现在开发者工作站上，也不会被签入源代码管理系统中。虽然AzureKeyVault可用于安全存储凭据、机密以及其他密钥，但代码需要通过KeyVa
pythonJavaScriptjavaHTMLPHPreactjsC#AndroidCSSNode.jssqlrpython-3.xMysqLjQueryc++pandasFlutterangularIOSdjangolinuxswifttypescript路由器JSON路由器设置无线路由器h3c华三华三路由器设置华三路由器电脑软件教程arraysdocker软件图文教程Cvue.jslaravelspring-boot