Analyse von Videos zur Identifikation von jugendgefährdenden Szenen

Auch der Jugendschutz ist einer von vielen Arbeitsschritten geprägter Prozess. Da sitzen auch Menschen vor einem Bildschirm und gucken sich neu eingekauften Content oder neu produzierten Content an. Sind dort irgendwelche Szenen drinnen, die jugendgefährdend sind? Und dann sprechen wir häufig von wenigen Sekunden oder auch mal einer Minute von Content, der da gefunden werden muss, um eine Jugendschutzeinschätzung vornehmen zu können. Auch hier gehts jetzt nicht darum, diese Einschätzung zu automatisieren. Ist es jetzt ab 16, ist es ab 18 oder ist das schon was für 12-Jährige. Sondern vielmehr ein System zu entwickeln, das den Jugendschützern die Chance gibt, zu entscheiden, gucke ich mir diesen Content jetzt an oder muss ich den eben nicht angucken. Und das ist jetzt ein Projekt, das befindet sich gerade noch in der Testphase, weil sozial-ethische Desorientierung, dafür gibt es jetzt noch keinen Algorithmus, sondern den muss man aus ganz, ganz vielen unterschiedlichen Algorithmen dieses Wirkungsrisiko erst entwickeln. Also ich muss gucken, ist Nacktheit drinnen, in welchem Context ist die Nacktheit. Weil Nacktheit ist perse nicht schlimm, aber ich muss dann vielleicht verstehen, was wird gesprochen. Also ich kann nicht nur aufs Bild draufgucken, sondern muss auch den Text analyiseren, der in diesem Content vorkommt.
[15:01-16:13]

At ProSiebenSat.1 we are currently working on atomizing parts of our youth protection process. So that means we are building an application which uses video audio and video analysis and it is actually supposed you know to find scenes and content that include like nudity, violence, hate symbols we call it [?] constitutional so illegal symbols in content. And the scenario that we want from the machine is it is just supposed to scan a whole lot of content and then point out these possibly critical scenes and give those then to the expert. So very important here is the scenario is not that the machine is everything, we get rid of the experts you know and the world is a better place. That is not what it is supposed to do. It is just supposed to solve that bottle neck point that we had. Because you know right now the experts actually, they need to scan so much content and it takes so much time. And instead of that the machine now scans the content and can only point out that specific critical areas where then the expert knowledge is needed. But what then happens with it so if we need to actually cut it out or weather that means that we cannot show this peace of content on some channel or at some certain point in time. All these expert decisions they keep saying the expert. The benefit of the system is to evaluate still very measurable. We have a huge reduction in processing time and you know and it really increases the amount of material that we can actually process. So, in the end that we also have a lower risk of a sort of flaw because there is a whole you know there is less material that completely goes unscanned. So, the risk is just less that we will completely miss something.
[10:39-12:28]

Whether it’s contextual ads, automated tagging of scenes or content moderation – Deep Learning in the #media industry has a wide range of possible applications! With our client #ProSiebenSat1 we already had the chance to work with one of the big players in the media industry, building a model that automatically scans nudity in all media content and gets feedback from humans to keep learning.

Deep Learning Lösung zur Bilderkennung für ProSiebenSat.1
Luminovo hat gemeinsam mit ProSiebenSat.1 eine Lösung entwickelt, die Filmmaterial auf nicht jungendfreie Inhalte präzise, schnell und kostengünstig überprüfen kann. Das System wird parallel zum Menschen in den Prozess integriert und zielt darauf ab, menschliche Entscheidungen nach und nach besser zu verstehen und zu spiegeln. Damit wird dem Kunden ermöglicht, höhere Qualität zu niedrigeren Kosten zu erzielen.