How will the framework for risk management in the Digital Services Act manage the tension between curbing disinformation and protecting freedom of expression?

By July Baltus

On the 18th of December 2023, the European Commission announced it had initiated formal proceedings against social media platform X, formerly Twitter, for its alleged failure to comply with obligations under the Digital Services Act (‘DSA’).[1] The announcement follows warnings about the large proportion of disinformation present on the platform in the aftermath of heightened hostilities between Israel and Hamas.[2] It will be the first enforcement action under the DSA, which has been in force for Very Large Online Platforms (‘VLOPs’) and Very Large Online Search Engines (‘VLOSEs’) since late August 2023.[3] The DSA is a landmark European legislative instrument that aims to regulate digital platforms and ensure a safer and more accountable online environment mindful of the fundamental rights of users.[4] One approach the DSA takes to accomplish its goals is by introducing due diligence obligations that address the spread of online disinformation. This aspect is crucial because the spread of disinformation, including misleading reports about conflicts, deepfakes, or doctored images, can have severe consequences for democratic societies like exacerbating tensions and misleading public opinion.[5] Building upon this necessity, Articles 34 and 35 of the DSA establish a comprehensive risk management framework, requiring VLOPs and VLOSEs to actively assess how their services contribute to “systemic risks” and take mitigating measures.  Disinformation campaigns can contribute to such societal risks, as explicitly stated in the DSA.[6] However, a crucial challenge when curbing disinformation is distinguishing between harmful and legitimate content, which might include critical, satirical, or controversial speech protected by the freedom of expression.

 

Disinformation can take the form of pro-Russian propaganda, [7] misleading statistics about the COVID-19 pandemic,[8] and manipulated videos about Hamas’ attack on Israel.[9] Especially in the technologically evolved media landscape, the spread of disinformation online can have harmful consequences for open democratic societies and accelerate polarization.[10] According to the European Commission disinformation is “verifiably false or misleading information that is created, presented and disseminated for economic gain or to intentionally deceive the public, and may cause public harm”.[11] It is important to realize at this stage that the harmful nature of disinformation does not invariably mean it is also illegal.[12] Regulating disinformation is therefore challenging, as it might present authorities with “excessive discretion to determine what is disinformation, what is a mistake [and] what is truth”.[13] Online platforms provide users with a unique stage to exercise their freedom of expression, as held by the ECtHR.[14]  However, rather than taking a neutral role regarding the content that is visible, these platforms act as gatekeepers to public debate online.[15] This discretion might lead platforms to over-remove content. Strict moderation may inhibit free expression, potentially silencing legitimate voices. Conversely, lenient policies can allow harmful disinformation to proliferate, misleading users and undermining public discourse. There are several ways in which regulating disinformation could pose a threat to freedom of expression. The United Nations Special Rapporteur on freedom of opinion and expression has warned against “vague and ambiguous” terms to describe disinformation.[16] Ambiguous language can lead harm legal certainty due to unpredictable enforcement as well as trigger ‘self-censorship’ whereby individuals refrain from expressing certain thoughts, ideas and information for fear of legal repercussions, also known as a ‘chilling effect’.[17]  Therefore,  attempts by the DSA to address disinformation while also protecting disinformation, must always be weighed carefully against this balance.

 

The risk management framework of Articles 34 and 35 DSA comes as part of the additional obligations for VLOPs and VLOSEs. Platforms are qualified as such when their average monthly active users are equal to or exceed 45 million, as roughly 10% of the European Union.[18] These additional obligations find their rationale in the way these large platforms can be used for the “shaping of public opinion and discourse” and the “societal concerns” due to their “advertising-driven business models.”[19] Therefore, the risk management framework is asymmetric by design, operating on the premise that the size of a platform directly correlates with its potential for societal impact and systemic risks.[20] In terms of regulating disinformation, the risk management framework is unique in the sense that it requires platforms to take action against not just illegal content, but also simply harmful content.[21] By taking this approach, regulators acknowledge that platforms themselves are often best equipped to evaluate risks resulting from their own technology.[22] The European Commission issued a report which analysed the application of the risk management framework to Russian disinformation campaigns surrounding the war in Ukraine using a standardised model.[23] As pointed out in this report, there is no legal guidance on how to apply the risk assessment and mitigation framework or how to assess the effectiveness of the policies.[24] Consequently, the report also shed a light on potential methodologies and metrics for assessing and mitigating risks.[25] It suggested considering the following factors in proportionally assessing content for systemic risks: (i) the context of the speech; (ii) the position and status of the speaker, including context about their intent; (iii) the content and form of the speech; (iv) reach, size and characteristics of the audience; and (v) likelihood or imminence of harm.[26]

 

While the DSA aims to balance controlling disinformation with preserving freedom of expression, it faces significant challenges. Articles 34 and 35’s vague language offers flexibility but risks inconsistency and potential overreach, affecting freedom of expression. The focus on large platforms acknowledges their impact on public discourse but leads to issues like “audit capture” and overlooks smaller platforms – a “regulatory blind spot”.[27] Additionally, the risk-based approach, while modern, could inadvertently create new societal risks and legal uncertainties, termed the “trade-off effect” and “risk-enhancing” effect.[28] Despite these challenges, the DSA’s introduction of due diligence obligations for platforms marks progress.[29] However, achieving an effective and fair balance in the dynamic online landscape remains an intricate task, necessitating ongoing evaluation and refinement of the regulatory framework.

 

[1] European Commission 2023, press release 18 December 2023 and Regulation (EU) 2022/2065 (Digital Services Act) .

[2] European Commission 2023, press release 12 October 2023.

[3] European Commission 2023, press release 12 October 2023.

[4] European Commission 2020, communication 3 December 2020.

[5] Van Hoboken et al. 2019, p. 11.

[6] Rec. 83 DSA.

[7] Directorate-General for Communications Networks, Content and Technology 2023.

[8] European Commission 2020a.

[9] Sabbagh 2023.

[10] European Commission 2018, p. 1.

[11] European Commission 2018, p. 3-4.

[12] Directorate-General for Communications Networks, Content and Technology 2018, p. 7.

[13] United Nations Special Rapporteur on Freedom of Opinion and Expression 2020, p. 13.

[14] ECtHR 1 March 2016 Cengiz et al. v. Turkey, para. 52.

[15] Leerssen 2015, p. 99-100.

[16] United Nations Special Rapporteur on Freedom of Opinion and Expression 2020, p. 3.

[17] Van Hoboken et al. 2019, p. 41.

[18] Rec. 76 DSA, Art. 33 DSA.

[19] Rec. 79 DSA.

[20] Efroni 2021.

[21] Rec. 84 DSA.

[22] Leiser 2023, p. 5.

[23] Directorate-General for Communications Networks, Content and Technology 2023, p. 10.

[24] Directorate-General for Communications Networks, Content and Technology 2023, p. 13.

[25] Directorate-General for Communications Networks, Content and Technology 2023, p. 12.

[26] Directorate-General for Communications Networks, Content and Technology 2023, p. 16.

[27] Laux et al. 2021, p. 3, 8.

[28] Efroni 2021.

[29] Leerssen 2023, p. 157.

Quid pro quo – Hoe relevant is RAAP werkelijk voor Kwantum/Vitra?

Door Djamo van Luttervelt 

 

Industriële vormgeving (design) is het probleemkind in de familie van de intellectuele eigendom.

– P.B. Hugenholtz, 2021 [1]

 

Inleiding

In maart zal het Hof van Justitie zich buigen over de vraag of de Nederlandse rechter de materiële reciprociteitstoets uit artikel 2(7) van de Berner Conventie (BC) mag toepassen in een conflict tussen partijen uit een EU-lidstaat enerzijds, en een derde land anderzijds. De Hoge Raad (HR) heeft prejudiciële vragen hieromtrent gesteld in de zaak Kwantum/Vitra [2] vanwege, onder andere, de recente RAAPuitspraak van het Hof. [3] Daar oordeelde het Hof dat het toetsen van een specifieke vorm van reciprociteit uit het WIPO Performances and Phonograms Treaty (WPPT) niet meer binnen de competentie van de nationale rechters ligt. Dit korte stukje zal, enigszins ongenuanceerd, de relevantie van RAAP voor Kwantum/Vitra in twijfel trekken.

 

Wat is de materiële reciprociteitstoets?

Voor wat hoort wat, zo gaat dat in de internationale politieke koehandel rondom multilaterale verdragen. Dit is niet anders als het om het intellectuele eigendomsrecht gaat. Bij de totstandkoming van de BC ontstond er getouwtrek over het assimilatiebeginsel, ofwel het idee dat binnen een BC-lidstaat makers uit andere lidstaten minstens even goed beschermd moeten zijn als nationale makers. Dit bleek vooral een probleem te zijn bij de bepaling omtrent de cumulatie van auteurs- en modelrechtelijke bescherming bij industriële vormgeving. [4] De verhandeling van dat kalf werd daarom aan voorwaarden onderworpen. Zo lezen we in de eerste volzin van artikel 2(7) BC dat het verdrag de lidstaten vrij laat om zelf te bepalen in hoeverre auteurs- en modelrecht in hun nationale rechtsstelsels kunnen en mogen overlappen. Maar, zo stelt de tweede volzin, een maker kan in een ander unieland enkel auteursrecht claimen op een werk van toegepaste kunst mits dat werk ook auteursrecht geniet in het unieland van oorsprong. Ten faveure van beknoptheid, slaan we even de moeilijkheden rondom definities en toepassingsvoorwaarden over. Onthoud kort en simpel: quid pro quo

Het gaat dus om een reciprociteitstoets die door een internationaal verdrag op dwingende wijze wordt opgelegd aan de lidstaten. Waarom zou de Nederlandse rechter deze dan niet mogen toepassen op het conflict in Kwantum/Vitra? In die zaak wenst Vitra in Nederland (BC-lidstaat) auteursrechtelijke bescherming in te roepen voor een designstoel die dergelijke bescherming niet geniet in het land van oorsprong, namelijk de VS (ook een BC-lidstaat). Uitgeknipte situatie, dacht ook AG Drijber. De HR had echter zijn twijfels, vooral omdat het Hof in de RAAP-uitspraak van 2020 had besloten dat de competentie voor een reciprociteitstoets omtrent naburige rechten uit de WPPT niet meer bij nationale instituten rust, maar bij de EU. Meten is weten, moet de HR gedacht hebben, dus dan maar prejudiciële vragen.

 

De relevantie van RAAP

Maar hoe relevant is die uitspraak nu werkelijk? Ondanks dat er in de literatuur al gespeculeerd is over hoe algemeen het Hof die conclusie heeft willen trekken, is het allesbehalve vanzelfsprekend dat dit ook zomaar kan. Het ging daar namelijk over een ander verdrag, een ander toepassingscriterium en een ander intellectueel eigendomsrecht. Laat ons die verschillen eens van naderbij bekijken.

 

WPPT vs. BC

Allereerst is het van belang om de rol van deze twee verschillende verdragen ten aanzien van de rechtsorde van de EU te duiden. De WPPT is onderdeel van dat rechtsstelsel, gezien de EU partij is bij dat verdrag. Dit laat daardoor geen ruimte voor EU-lidstaten om hun eigen weg te bewandelen in de naleving van de WPPT, maar geeft de EU daarover het laatste woord onder de wakende ogen van het Hof. [5] Dit is niet het geval voor de BC, waarbij de EU geen partij is. Wel is de EU partij bij de WIPO Copyright Treaty (WCT) en de TRIPS Overeenkomst, zodat de Unie de belangrijkste BC-bepalingen zoals artikel 2(7) dient te respecteren. [6] Het gaat te ver om te stellen dat daardoor plots de verplichtingen en privileges van BC-lidstaten die ook EU-lidstaten zijn, worden gederogeerd aan de EU. De WCT en TRIPS staan dat ook helemaal niet toe. [7]

 

Omdat het kan vs. omdat het moet

Daarnaast gaat het in de WPPT om een soort discretionaire bevoegdheid om reciprociteit toe te passen. Het betreft namelijk een specifieke uitzondering op het assimilatiebeginsel waarbij een lidstaat niet verplicht is nationale behandeling toe te passen omtrent de beloning van uitvoerende kunstenaars en fonogramproducenten uit andere WPPT-landen, wanneer een dergelijk land zelf een voorbehoud heeft gemaakt bij dit aspect van het verdrag. [8] Deze bepaling staat er an sich niet aan in de weg dat er toch een sympathieker regime wordt gehanteerd op nationaal niveau. In de BC daarentegen is de reciprociteitstoets dwingend voorgeschreven, waardoor een rechter deze steeds ambtshalve dient toe te passen. Dus, waar er bij de WPPT mogelijk de vraag zou kunnen opkomen of de rechter al dan niet de reciprociteitstoets achterwege zou mogen laten, kan er daar bij de BC geen sprake van zijn. De Nederlandse rechter moet de toets uitvoeren in een geval zoals Kwantum/Vitra.

 

Vergoedingsrecht vs. verbodsrecht

Ten slotte gaat het in RAAP en Kwantum/Vitra om verschillende intellectuele eigendomsrechten met verschillende ratio’s. Nabuurrechthebbenden hebben bij de verspreiding van hun opnames niet altijd een verbodsrecht, zoals auteurs- en modelrechthebbenden, maar soms slechts een vergoedingsrecht. [9] Zo ook in RAAP, waar musici uit de VS, die het gebruik van hun fonogrammen in Ierland niet konden verbieden, niet beloond werden voor dat gebruik terwijl er wel winst op werd gemaakt. Deze korte (en kort-door-de-bochtige) weergave van de situatie in RAAP voelt oneerlijk met het oog op de vergoedingsratio. Dat het Hof hier paal en perk aan stelde, voelt dan ook (wederom kort door de bocht) eerlijk

Bij Kwantum/Vitra ligt dat toch anders. Vitra wil zich beroepen op een intellectueel eigendomsrecht dat ze volgens de BC helemaal niet heeft, om zo andere commerciële partijen te verbieden stoelen te produceren die op haar designstoel lijken. Zou de stoel van Vitra ooit in aanmerking zijn gekomen voor modelrecht in Nederland, dan zou die ondertussen ook al verlopen zijn gezien het model dateert uit 1950. En daar knelt nu net het schoentje der eerlijkheid: de ratio achter het modelrecht is om de rechthebbende tijdelijk het alleenrecht op een model te geven om zo haar investeringen terug te winnen en een voorsprong te nemen op de markt voordat iedereen mag voortbouwen op haar werk. Ofwel, gezien Vitra zich volgens de BC alleen op het Nederlands modelrecht kan beroepen, waar ze in dit geval geen aanspraak meer op kan maken, zou het commercieel oneerlijk zijn om de beschermingstermijn van haar stoelontwerp te verlengen via het auteursrecht.

 

Conclusie

Aldus komen we tot het einde van deze kleine tirade waaruit mag blijken dat de HR de relevantie van RAAP voor het komen tot een beslissing in Kwantum/Vitra sterk overschat. Meer nog, uit bovenstaande punten kan worden besloten dat de Nederlandse rechter de materiële reciprociteitstoets ambtshalve moet uitvoeren en aldus tot het besluit zal komen dat Vitra zich niet kan beroepen op het auteursrecht. Maar hoe dienen wij ons hierbij te voelen? Extatisch, omdat intellectuele eigendomsrechten van nature al aanzienlijke beperkingen opleggen aan de mededinging, en minder van dergelijke bescherming dus gunstiger zou zijn? Blij, omdat regels nu eenmaal regels zijn en wij als deontologen waarde hechten aan rechtszekerheid? Of triest, omdat die arme designers uit landen die hen niet overvloedig willen beschermen daarvan ook de dupe zijn in Nederland? Ik ga voorzichtig voor tevreden, want zolang dit soort vraagstukken bestaan, is er een markt voor ons IViR-volk.

 


 

Verwijzingen 

 [1] P.B. Hugenholtz, annotatie bij HvJ 11 juni 2020, C-833/18, ECLI:EU:C:2020:461 (Brompton Bicycle), NJ 2021/175.

[2] HR 31 maart 2023, ECLI:NL:HR:2023:508 (Kwantum/Vitra).

[3] HvJEU 8 september 2020, C-265/19, ECLI:EU:C:2020:677 (RAAP/PPI).

[4] De termen ‘industriële vormgeving’, ‘design’ en ‘werk van toegepaste kunst’ worden voor het doel van dit artikel als synoniemen beschouwd.

[5] Zie artikel 207(1) jo. 3(1)(e) VWEU omtrent de exclusieve competentie van de EU als het gaat om de commerciële aspecten van het intellectueel eigendomsrecht.

[6] Zie artikelen 1(4) WCT en 9(1) TRIPS.

[7] Zie artikelen 1(2) WCT en 2(2) TRIPS. 

[8] Artikel 4(2) WPPT.

[9] Zie, bijvoorbeeld, artikel 15(1) WPPT omtrent het vergoedingsrecht bij de uitzending van voor commerciële doeleinden gepubliceerde fonogrammen; en artikel 7(1) Wet naburige rechten omtrent het Nederlandse vergoedingsrecht bij het uitzenden, heruitzenden of openbaar ten gehore brengen van voor commerciële doeleinden gepubliceerde fonogrammen.

Embark on Sora’s Odyssey – The Newest Era of AI Artistry has Begun

By Martijn de Boer

“A stylish woman walks down a Tokyo street filled with warm glowing neon and animated city signage. She wears a black leather jacket, a long red dress, and black boots, and carries a black purse. She wears sunglasses and red lipstick. She walks confidently and casually. The street is damp and reflective, creating a mirror effect of the colorful lights. Many pedestrians walk about,” reads the prompt of one of Sora’s showcased, seemingly lifelike videos. 

Artificial intelligence, and especially generative AI, has taken the world by storm in recent years. ChatGPT, for one, has become a household name since its introduction in November 2022. As a result of its unprecedented accessibility and efficiency, anyone with access to a laptop or mobile device can now use AI to aid them in their creative pursuits. Ranging from writing entire essays in the blink of an eye to crafting artworks in the style of Monet or Dali, an algorithm can create whatever the user desires based on a simple prompt. A new digital age is heralded by generative AI, and the possibilities are endless. 

Enter Sora, the latest installment in the OpenAI-lead generative AI frontier: a cutting-edge AI tool curated to video editing. Using the same deep-learning techniques as its predecessors, it allows for users to create lifelike videos by way of a simple prompt. Be it an illustrious overhead shot of a snowy afternoon in Tokyo, or a dalmatian traversing across balconies in a colorful Italian village, Sora opens up the possibility for your everyday user to become a filmmaker in their own regard (which is especially topical now in the advent of the Oscars) – in turn augmenting their creative vision and expanding the horizons of their artistic potential.

While the promise of generative AI offers limitless opportunity to explore thus far uncharted realms of artistry, previously confined by the bounds of imagination and talent, one has to be wary of the potential impact this new and highly disruptive technology poses on the creative industry altogether. Generative AI services showcase incredible capabilities, and their ensuing creations often blur the lines between human and machine-generated content. Yet, artificial intelligence is in itself not a creative entity, and its training necessitates the sourcing of millions of datapoints by way of scraping the internet. Only through this comprehensive process, the AI tool contains the magnitudes of data needed to create artworks, articles, songs, or videos that bear a seemingly human-touch, by virtue of its algorithmic prowess. Exactly therein lies the relevancy from the creative and copyright-oriented perspective: how can a generative AI model create a painting in the style of Monet if it does not already have access to the artist’s works? 

The same critical tenet can be applied to the generated work in its own regard: should a user be granted authorship of the created work if they simply used an AI tool to create it? The consensus seems to point to the negative, considering the insufficient amount of human creativity involved in the overall process. Yet, legal opinions diverge on this topic, as the Beijing Internet Court recently ruled it is warranted to bestow copyright ownership onto the person who prompted an AI-generated image. Notwithstanding the possibility, the question remains whether it should, and whether such an allocation is a desirable outcome. The entire notion of generative AI stands at odds with the ratio of intellectual property law: traditionally, innovation and creation beget protection by virtue of the substantial degree of effort that goes into the creative process. The use of an efficient, low-stakes tool like generative AI ought not to gain the same economic benefits then, one could argue.  

Glaringly, the aforementioned scenarios are largely incongruent with the realm of intellectual property law, and provoke questions regarding ownership rights and alternative rights-clearance mechanisms (for example, licensing). Yet, due to the high degree of legal ambiguity and internal obscurity – OpenAI has shown to be highly reluctant in divulging information regarding the datasets its models are based on – there is little substantial basis to initiate action on. The lack of a clear legal framework complicates things further. Whereas the EU’s AI Act and Biden’s Executive Order on AI show great promise and are highly anticipated, these legislative acts will nevertheless take significant time before they are effectively and practically implemented.

In the meantime, ownership disputes run rampant: in December 2023, the New York Times sued OpenAI for copyright infringement on millions of the esteemed newspaper’s articles. OpenAI, in return, falls back on the fair use exception under the US copyright regime. Pending judgment, and awaiting future legislation, it is up to the collaborative effort between policymakers, industry leaders, researchers, and developers alike, to foster a responsible and inclusive landscape – one that encourages creativity and progress, yet addresses adequately the potential legal, ethical, and social implications of generative AI. This tension – and this changing digital landscape (think of, for instance, the advent of Google) – is not a new phenomenon, neither is ultimately the necessity for copyright regimes to adapt to technological innovation. The question then lies more so in how this adaptation should take place in light of the remarkably disruptive nature of generative AI.

If one were to zoom out from a pure IP-perspective and bring to light the potential ethical concerns surrounding generative AI, the situation becomes all the more dire. One of the most pressing concerns currently is the proliferation of misinformation and manipulation facilitated by generative AI tools – something that is especially relevant when it comes to Sora. A state-of-the-art deep learning technique that analyzes and manipulates video content sounds incredible. Yet, the possibility of creating highly realistic but fabricated and harmful videos remains a serious danger as a result of the technology’s widespread access. The generation and dissemination of false information have evolved significantly, making it even easier for public opinion to be manipulated and polarized, and facilitating the unprecedented defamation and misrepresentation of any individual. 

In late January 2024, explicit AI-generated deepfake images of Taylor Swift made the rounds across social media to the point The White House officially commented on it and Congress initiated action. Due to the lack of transparency surrounding the technology’s inner workings, tracing the origin of the controversial posts proved especially cumbersome, while they accumulated millions of views in the meantime. Despite rebuttals from both OpenAI and Microsoft regarding their responsibility and respective content prohibition policies, the highly publicized situation underscored all the more the importance of concrete internal safeguards, ethical guidelines, and regulatory frameworks in curtailing the unrestricted creation of misleading and malicious content, and holding the appropriate parties accountable.

Whereas potential misuse was previously stymied by a keen eye and the model’s inability to imitate reality perfectly – artworks created by generative AI generally appear somewhat dreamy, or feature anatomically incorrect bodies – artificial intelligence has since witnessed exponential growth in both accuracy and sophistication. In just a few years’ time, profound technological advancements have enabled generative AI services to create increasingly sophisticated and convincing content across different modalities. Sora is no exception: whereas a video of two dogs hosting a podcast in the mountains hinges (only ever so slightly) on the surreal, the announced capabilities of the text-to-video model are a testament to the technological prowess it possesses. 

Navigating the myriad of potential challenges in the shrouded voyage of generative AI requires a multifaceted approach: one which involves a sufficiently tailored protection that is aligned with the interests of all parties involved. Legislators should strive to achieve a fair balance between safeguarding the creative spirit and fostering highly promising technological development. In a similar fashion, while generative AI serves as an immense catalyst for creativity and progress, developers of AI-driven models like Sora must implement robust mechanisms to detect and prevent misuse. Ultimately, promoting digital literacy and a sharp degree of critical thinking can enable individuals to discern between authentic, AI-generated, and AI-manipulated content, mitigating the potential detrimental impact of misinformation on society – something that becomes more difficult to accomplish as each day passes, and each new cutting-edge AI tool is introduced to the public. It remains to be seen whether adequate measures will be taken to combat the variety of pressing legal and ethical concerns; or, whether the world will turn a blind eye to them, favoring in lieu of such a future in which human ingenuity and artificial intelligence converge to redefine the boundaries of creative expression.

Examining the drafted European Media Free-dom Act: Combating Harmful Content in Today’s Digital Landscape door Bente van Dijk

Door Bente van Dijk

 

Examining the drafted European Media Free-dom Act: Combating Harmful Content in Today’s Digital Landscape 

Introduction 

Media freedom and diversity are under pres-sure. Amid numerous threats to journalists and the spread of disinformation at the time of the corona pandemic and the war in Ukraine, hope seems to take the form of the European Com-missions’ drafted European Media Freedom Act (EMFA). The EMFA is a highly important piece of landmark of Europe’s digital rights. How-ever, the EMFA as currently drafted may not be sufficiently effective in preventing the spread of harmful content via platforms. In this blog post, I will discuss the deficiencies of the drafted EFMA and offer recommendations to address shortcomings in order to improve the protection of media freedom and pluralism in Europe. 

Basis and legal framework 

The EMFA is a set of rules to protect media plu-ralism and independence in the European Union (EU) as set out in the European Democracy Ac-tion Plan. Until now, media freedom has not been given an effective legal framework of its own at EU level. Pluralism and media freedom are usually areas reserved to the authorities of individual Member States, since they are in a better position to design media regulation ac-cording to their community needs, traditions and specifics of domestic markets. However, several problems have arisen due to divergent approaches in member states regarding media pluralism, causing fragmentation of the internal market. The EMFA now seeks to establish a Eu-ropean framework for the protection of media freedom and pluralism, as well as to combat dis-information and hate speech. The EMFA also introduces provisions that aim to ensure that digital platforms take appropriate measures to address harmful content. 

In terms of content, the EMFA should relate to already existing forms of regulation. The EMFA builds on the Audiovisual Media Ser-vices Directive (AVMSD) by introducing a set of measures to protect media freedom and plu-ralism. Additionally, the EMFA amends and updates the AVMSD in order to strengthen the legal framework on disinformation and hate speech. The EFMA seeks to ensure that digital platforms are held accountable for the content they host, a topic on which the EMFA will com-plement the Digital Services Package: the Digi-tal Services Act and the Digital Markets Act. Specifically, the EMFA includes measures to ensure that audiovisual media services are used to disseminate content that incites violence, ha-tred or discrimination, or that incites terrorism or other forms of criminal activity. It also re-quires that audiovisual media services take ap-propriate measures to ensure that content that incites violence, hatred or discrimination is not made available to minors. 

Omissions and points of improvement 

Regarding content moderation and platform dis-information dissemination, the EMFA includes provisions for increased transparency in online platforms’ algorithms and set up mechanisms for users to report false information and receive corrections. While the EMFA proposes signifi-cant improvement in terms of content modera-tion and platform disinformation dissemination, there are still areas where it could be further im-proved. Firstly, the EMFA should provide clearer definitions of disinformation and hate speech to ensure that platforms are consistent in their content moderation practices. This is espe-cially important given the inconsistent applica-tion of the term hate speech in ECtHR case law since Handyside. Neither term is defined in Ar-ticle 2. This lack of clarity can lead to incon-sistent enforcement of the law, and can create confusion among digital platforms as to what content is considered acceptable. This would also help to prevent any ambiguity of confusion about what constitutes as harmful content. 

While it is necessary to combat disinformation and hate speech, the EMFA’s reliance on algo-rithms and automated tools raises concerns. The proposal should require platforms to be more transparent about their content moderation prac-tices and algorithms, and to provide users with clear explanations of why their content was re-moved. This can be achieved by requiring me-dia organizations to disclose their content mod-eration policies and practices, including how decisions are made and how appeals can be made. Next to that, the EMFA should include stronger sanctions for platforms that fail to com-ply with its requirements. This could include fines, suspension or revocation of licenses, or even criminal penalties. Stronger sanctions would help to ensure that platforms take their responsibilities seriously and act in the best in-terests of users. Overall, it is crucial that the pro-posed EMFA strikes a balance between protect-ing media freedom and ensuring responsible content moderation practices. This would help build trust between platforms and users, and en-sure that platforms are held accountable for their actions. 

Article 17(1) of the drafted EMFA proposes to identify media service providers on a self-de-claratory basis. The suggested prior notice system for self-declared media outlets creates quick and non-transparent procedures for cer-tain privileged actors that will have a major neg-ative impact on the right to freedom of expres-sion and information, and even open the door to actors who intend to distort the democratic pub-lic debate. This mechanism would allow these self-appointed media, whether or not they actu-ally meet the requirements of Article 17(1), to more easily disseminate disinformation, misin-formation and propaganda with less surveil-lance. Given the public interest in the dissemi-nation of disinformation, this article should be removed. These improvements would help to ensure that the EMFA is effective in combatting disinformation and hate speech, and in promot-ing transparency and accountability in content moderation practices. 

Conclusion 

In conclusion, the EMFA has the potential to significantly impact media freedom and content moderation practices in the EU. However, there are several areas in which the EMFA can be im-proved to ensure that it is effective in tackling hate speech and disinformation. These areas in-clude providing more clarity on the definition of hate speech and disinformation, and providing clear guidance on how digital platforms should respond to hate speech and disinformation. Therefore, it is crucial that the proposal under-goes careful consideration and revision to en-sure that it strikes a balance between protecting media freedom and ensuring responsible con-tent moderation practices. 

Juice channels zetten de verhouding tussen de privacy en persvrijheid verder op scherp

Door Christiaan Cornet

Roddelnieuws is al zo oud als de weg naar Rome. Zo wordt het werk van de Romeinse dichter Marcus Martialis door historici beschouwd als een van de eerste vormen van roddeljournalistiek en dateert de eerste roddelrubriek in een dagelijkse krant al uit de jaren 30 van de vorige eeuw[i] Sinds kort is er echter een nieuwe nieuwsbron die in deze schijnbaar diep menselijke behoefte voorziet. Zogenoemdejuice channels verspreiden via YouTube- en Instagramkanalen roddels over bekende Nederlanders. Deze kanalen opereren vaak op een genadeloos harde wijze. Persoonlijke tragedies en ernstige beschuldigingen worden zonder enige terughoudendheid of respect voor de journalistieke beroepsethiek gereduceerd tot clickbait.

Het kanaal van vlogger Yvonne Colderweijer is een van de populairste juice channels van Nederland. De roekeloze wijze waarop zij roddels bespreekt trekt een groot publiek, maar is ook de reden dat ze regelmatig in de rechtbank verschijnt. In één van deze rechtszaken vorderde realityster Samantha Steenwijk, beter bekend als Barbie, onder andere de openbaarmaking van de bronnen van Colderweijers roddels.[ii] De rechter wees deze vordering af. In kort geding oordeelde de rechter namelijk dat de roddels van Colderweijer onder het begrip ‘journalistieke activiteiten’ vallen. Deze kwalificatie impliceert, vanwege de cruciale rol van de journalist in een democratische samenleving, een verhoogde mate van bescherming onder artikel 10 EVRM. Dit betekende in deze zaak dat Colderweijer zich terecht kon beroepen op haar recht op bronbescherming. Desondanks moet Colderweijer haar uitlatingen rectificeren van de rechter. De bronnen van Colderweijer waren dusdanig onbetrouwbaar dat het recht op privacy van Steenwijk in de zaak zwaarder weegt.

Zelf was Colderweijer tevreden met het vonnis. Op haar Instagramaccount geeft ze aan dat  ze dankzij deze uitspraak een handleiding voor het verspreiden van haar juice heeft. In dit oordeel geeft de rechter namelijk ook richtlijnen voor een werkwijze die wel door de beugel kan. De rechter kent dus, ondanks dat zij onderkent dat Colderweijer de journalistieke beroepsethiek aan haar laars lapt, een journalistieke status toe aan de juice van Colderweijer. Het oordeel van de rechter wordt om deze reden niet door iedereen goed ontvangen. Emeritus hoogleraar informatierecht Egbert Dommering reageert in de NRC kritisch op de uitspraak.[iii] Hij stelt dat de rechter in deze zaak een grens had moeten trekken. De video’s van Colderweijer maken volgens hem geen deel uit van het maatschappelijk debat, maar zien alleen op het trekken van zoveel mogelijk kijkers. Tot slot stelt Dommering dat het juridisch kader waarin dit soort zaken worden beslist, en dat vooral tot stand is gekomen in de jaren negentig, niet langer bruikbaar is.

De tegenstelling tussen Colderweijer en Dommering is exemplarisch voor het dilemma dat juice channels veroorzaken. Aan de ene kant kan, zeker in lagere rechtspraak, niet zomaar worden afgeweken van een juridisch raamwerk dat het gevolg is van een aantal decennia aan internationale rechtspraak. Aan de andere kant lijken juice channels een soort gevaarlijke mutatie van traditionele roddelbladen die zo snel mogelijk dient te worden uitgeroeid. Een werkwijze waarbij een ‘spionnenleger’ wordt aangemoedigd om zoveel mogelijk roddels te verzamelen, staat gevoelsmatig immers zo ver af van de journalistieke norm dat deze ook juridisch niet in het zelfde hokje geplaatst mag worden. De opmerkingen van Dommering lijken een echo van deze tweede houding ten aanzien van juice channels. Maar biedt het huidige juridische raamwerk dan geen aanknopingspunten voor een strengere uitleg van het begrip ‘journalistieke activiteiten’?

Het EHRM kent, naast een verhoogde mate van bescherming, ook verplichtingen en verantwoordelijkheden toe aan journalisten. In bijvoorbeeld het Flux no.6 arrest laat het EHRM het recht op privacy op beroepsethische gronden prevaleren boven de vrijheid van meningsuiting.[iv] In deze zaak had een journalist een artikel geschreven waarin hij een directeur van een middelbare school van fraude beticht. De journalist had hierbij echter geen wederhoor gepleegd. Dit arrest is een voorbeeld van een zaak waarin de journalistieke beroepsethiek een belangrijke rol speelt in de afweging van artikel 10 en artikel 8 EVRM. Bovendien zou deze argumentatie van het EHRM een aanleiding kunnen zijn om de naleving van de journalistieke beroepsethiek zwaarder mee te laten wegen bij de beoordeling van het journalistieke karakter van een uiting.

Een uitleg van het begrip ‘journalistieke activiteiten’ die sterker gericht is op de journalistieke kwaliteit van een publicatie zou veel mensen dus als muziek in de oren klinken. Het is echter onwaarschijnlijk dat hogere rechters snel zullen afwijken van het in het kort geding tussen Colderweijer en Steenwijk toegepaste toetsingskader. De voorzieningenrechter oordeelde in het kort geding dat Colderweijer ‘journalistieke activiteiten’ verricht op basis van het feit dat zij ‘informatie, meningen of ideeën aan het publiek bekendmaakt’. Deze ruime uitleg is gebaseerd op de rechtspraak van het EHRM en houdt in grote mate rekening met het gevaar voor censuur en andere inperkingen van de vrijheid van meningsuiting. Het beoordelen van de kwaliteit van een publicatie is immers altijd subjectief. En strikte of onduidelijke richtlijnen voor journalistieke publicaties zullen juridische procedures waarmee journalisten monddood gemaakt worden in de hand werken. Dit gevaar is door Rucz recentelijk nog benadrukt in haar artikel omtrent SLAPP’s en de (nauwe) toepassing van de journalistieke exceptie uit artikel 85 AVG.[v]

Tot slot, het lijkt er op dat juice channels de verhouding tussen het recht op privacy en de vrijheid van meningsuiting binnen de journalistieke praktijk nog verder op scherp zetten.
Daarom is de wens naar een wijziging van het juridische kader waarbinnen deze zaken beslist worden enigszins begrijpelijk. Een engere uitleg van het begrip ‘journalistiek’ brengt echter ook serieuze gevaren voor de vrijheid van meningsuiting met zich mee. Bovendien betekent een kwalificatie als journalist niet alleen extra rechten, maar ook verplichtingen en verantwoordelijkheden die nageleefd moeten worden. Daarom is het, ondanks de ogenschijnlijk afwijkende positie die juice channelsinnemen binnen het journalistieke landschap, twijfelachtig of deze kanalen ook juridisch anders benaderd dienen te worden.

 

[i] Garry Wills, ‘Rome’s Gossip Columnist’, The American Scholar 2008 Vol. 77.

[ii] Rechtbank Amsterdam, 29-04-2022, ECLI:NL:RBAMS:2022:234.

[iii] Mark Koster, De ‘juice’ van Yvonne Coldeweijer is volgens de rechter toch echt journalistiek, NRC, 22 mei 2022.

[iv] EHRM 29 oktober 2008, nr. 22824/04, para. 8 (Flux No.6).

[v] M. Rucz, ‘SLAPPed by the GDPR: protecting public interest journalism in the face of GDPR-based strategic litigation against public participation’, Journal of Media Law (14/1), 2022, p.1-10.

15 september 2022 | Borrel

Informail 2020-2021

Jazeker, daar is ie weer: de Informail!

Lees meer

Het zwarte randje van reality-tv

Door Noortje van Hoorn

Het is een gewone ochtend, zo gewoon als ochtenden soms kunnen zijn. Een man rijdt naar zijn werk terwijl de radio muziek afspeelt op de achtergrond. Plotseling wordt het signaal onderbroken door een of andere uitzending. Hij begrijpt niet meteen waar de stem op de radio het over heeft, tot hij zich realiseert dat de stem exact al zijn bewegingen op dat moment beschrijft. De uitzending gaat over hemzelf! Het is een van de meest iconische momenten van de film de Truman-show: een film over een man die de ster is van zijn eigen tv-show, zonder dat hij het zelf weet. Zijn idyllische geboorteplaats bevindt zich eigenlijk in ’s werelds grootste tv-studio en al die vriendelijke mensen in zijn leven, zelfs zijn ouders en vrouw, zijn eigenlijk acteurs. Toen de film ‘The Truman Show’ in 1998 uitkwam, was de mening van veel mensen nog: waarom zouden miljoenen mensen het dagelijkse leven willen volgen van iemand die net zo saai is als ikzelf?

Wat is er veel veranderd in 23 jaar. Reality-tv is overal en het is booming. In deze shows trouwen mensen bij de eerste ontmoeting , gaan ze met hun partner naar een eiland om te worden gescheiden en daarna verleid om vreemd te gaan en in sommige reality-TV shows strijden mensen om wie de beste plastische chirurgie heeft gekregen. Maar reality-tv heeft een duistere kant: veel deelnemers plegen zelfmoord of doen een poging, er vindt zo nu en dan seksueel geweld plaats dat wordt uitgezonden en de deelnemers worden vaak sterk gemanipuleerd. En toch: tieners zien deelname aan een reality-tv-show als een geweldige manier om beroemd te worden. Tien procent van de Britse tieners zei bereid te zijn om te stoppen met hun opleiding als ze een ster op reality-televisie zouden kunnen worden, gemotiveerd door het uitzicht op geld en succes. Met grote macht, komt grote verantwoordelijkheid. De vraag is: nemen deze reality-tv-programma’s hun verantwoordelijkheid en zouden ze dat moeten doen?

De Truman-show is in onze huidige tijd net zo – zo niet relevanter –  als toen de film uitkwam in 1998, omdat het thema raakt aan iets dat cruciaal is voor de democratische samenleving: de taken en verantwoordelijkheden van de media. Artikel 10 van het Europees Verdrag voor de Rechten van de Mens beschermt het recht van eenieder om een ​​mening te koesteren en zich vrij te uiten zonder inmenging van de overheid. Maar het houdt ook de vrijheid van het publiek in om informatie te ontvangen. Bij de uitoefening van dit recht op vrijheid van meningsuiting draagt ​​eeenieder bepaalde plichten en verantwoordelijkheden. Het is bijvoorbeeld niet toegestaan ​​aan te zetten tot discriminatie, haat, geweld of segregatie, ideeën over raciale superioriteit te verspreiden of de holocaust te ontkennen. Sommige actoren binnen de maatschappij hebben een grotere verantwoordelijkheid bij het gebruik maken van dit recht, vooral de media. De media vervullen een rol van  ‘publieke waakhond’, wat essentieel is voor de democratische samenleving. De media creëren namelijk een forum voor debat, dragen bij aan de opinievorming van burgers en vergroten de deelname aan het publieke debat van mensen. Daarnaast zijn de media verantwoordelijk voor de verspreiding van informatie, waarbinnen een grote variatie aan soorten informatie te vinden is; van educatieve doeleinden tot entertainment. Het creëren van een forum voor het publiek debat is niet alleen maar de taak van de pers, deze functie kan bijvoorbeeld ook vervuld worden door NGO’s en bloggers

Maar waar plaats je reality-tv shows in het brede spectrum van verschillende soorten media, en, wat zijn in het bijzonder hun specifieke taken en verantwoordelijkheden? Reality-tv is een vorm van amusement, hoe platvloers soms ook. Wel heeft het duidelijk een zekere invloed op de samenleving en er kan beargumenteerd worden daarom ook daaruit voortvloeiende verplichtingen. Zeker omdat artikel 10 EVRM verplichtingen oplegt aan iedereen die gebruik maakt van zijn vrijheid van meningsuiting. Journalisten hebben bepaalde plichten en verantwoordelijkheden in de uitoefening van hun werk. In lijn daarmee kan je concluderen dat er ook soorgelijke normen bestaan voor reality-tv-producenten. In 2002 heeft het Permanent Comité voor grensoverschrijdende televisie van de Raad van Europa een verklaring uitgegeven, als reactie op de opkomst van reality-tv-shows. Hierin werd de noodzaak benadrukt voor televisieprogrammeurs om de menselijke waardigheid en de grondrechten van anderen hoog te houden. In de verklaring werd vermeld hoe dit soort shows de menselijke waardigheid kunnen aantasten en hoe dit kan leiden tot een volledig verlies van het privéleven van deelnemers. De verklaring vestigde ook de aandacht op hoe zij lichamelijk en geestelijk lijden kunnen doorstaan. Daarom moeten contracten worden ontworpen om de meest kwetsbare partijen te beschermen tegen het afstand doen van al hun rechten, in ruil voor geld en populariteit.

Het belangrijkste doel van het Europees verdrag voor de rechten van de mens is het beschermen van de menselijke waardigheid en vrijheid. Een vergaand voorbeeld van het respecteren van de menselijke waardigheid is te vinden in een zaak van het Mensenrechtencomité over het zogenaamde ‘dwergengooien’. In deze uitspraak is vastgesteld dat de activiteit van ‘dwerggooien’ de menselijke waardigheid schendt, zelfs wanneer de betrokkene er vrijwillig aan deelneemt.  Dit raakt aan het complexe aspect van reality-tv: deelnemers doen vrijwillig afstand van hun recht op privacy en stemmen ermee in gemanipuleerd te worden, allemaal in dienst van entertainment. Maar zoals te zien is in het geval van ‘dwergengooien’: ook wanneer iemand vrijwillig instemt met extreem vernederende activiteiten staat de menselijke waardigheid op het spel.

Daarom kan er kan worden beargumenteerd dat reality-tv-programma’s meer verantwoordelijkheid zouden moeten nemen door hun deelnemers op een ethisch verantwoordelijke manier te behandelen en ervoor te zorgen dat hun menselijke waardigheid tijdens deze shows intact blijft. Zo zouden reality-tv shows er bijvoorbeeld voor kunnen zorgen dat deelnemers weten waar ze voor tekenen of een vergelijkbaar soort commissie opstellen als gebruikt wordt bij wetenschappelijk onderzoek met mensen, welke de rechten van vrijwilligers bewaakt bij psychologische experimenten. Het is verwerpelijk om ‘amusement’ te verkiezen boven de mentale en fysieke gezondheid van deelnemers, zeker op een medium als tv dat bijzonder indringend is en daardoor een groter publiek bereikt dan bijvoorbeeld een krant.

Kortom, de producenten van reality-tv shows dienen te her-evalueren wat hun verantwoordelijkheden zijn als deelnemers aan het publieke debat. Dit zijn ze verplicht naar niet alleen hun deelnemers, maar ook vanuit de invloed die zij op het publieke debat. Ze dienen de menselijke waardigheid van deelnemers intact te houden, ook wanneer deelnemers ‘vrijwillig’ deelnemen. De Truman-show was een horrorfilm, ingenieus neergezet als een komedie. Je kan je afvragen wat Truman zou hebben gevonden van de tegenwoordige reality-tv. Mijn gok is dat hij zou vinden dat deelnemers zijn nachtmerrie van een leven herleven door aan reality-tv deel te nemen. Zou jij het met hem eens zijn?

SVIR Zoekt Nieuw Bestuur

Start jij binnenkort met de master Informatierecht en wil je meer dan alleen studeren? Word bestuurslid bij de SViR! Als Voorzitter, Secretaris, Penningmeester of Commissaris Extern organiseer je lezingen, kantoorbezoeken, borrels, een reis en meer!
Geïnteresseerd? Mail je CV en motivatiebrief (max 500 woorden) met daarin de positie van je voorkeur naar secretarissvir@gmail.com. Ook vragen kun je aan dit adres stellen. De deadline is 30 juni.

8 juni 2021 | Kantoorbezoek Brinkhof

Datum: di 8 juni 2021
Plaats: online
Tijd: vanaf 14:00
Aanmelden: via dit formulier.

Op dinsdag 8 juni vanaf 14.00 uur organiseert Brinkhof speciaal voor de SViR-leden een digitaal kantoorbezoek. Brinkhof is een toonaangevend advocatenkantoor op het gebied van media-, privacy- en intellectueel eigendomsrecht. Tijdens het kantoorbezoek kan je het gloednieuwe kantoorpand zien, krijg je op een interactieve manier een inkijk in de toppraktijk en kun je kennismaken met de advocaten. Dit is een perfecte kans om jezelf te laten zien, vragen te stellen en de sfeer bij Brinkhof te proeven! De middag wordt afgesloten met een digitale borrel, waarvan je de ingrediënten thuisgestuurd zult krijgen.

Wil jij weten hoe het is om te werken bij Brinkhof? Meld je dan nu aan! Je kunt je aanmelden via dit formulier. Het aantal plaatsen is beperkt. Als je wordt uitgenodigd, ontvang je een bericht met nadere informatie.

Brinkhof vantevoren vast ontdekken? Kijk op hun algemene website en recruitmentpagina!