EP corrigendum on the AI Act On April 16, 2024, the European Parliament (EP) issued a correction to its stance on the Proposal for the AI Act. This correction addressed inaccuracies in language and numbering within the document. Additionally, it updated various references throughout the AI Act to ensure their accuracy prior to its publication in the Official Journal of [...]
Recent research of the Amsterdam University of Applied Sciences shows that Dutch companies are insufficiently prepared for the arrival of the AI Act. An in-depth study by Diptish Dey, Jesse Weltevreden and Debarati Bhaumik shows that Dutch businesses are not yet prepared for the AI Act. The compliance score for the surveyed companies averages at 56%. With the approaching deadlines [...]
In a recent court case in the Czech Republic, the court ruled that an AI-generated work can never be protected by copyright. The case revolved around the question whether an image created by AI could be considered a copyrighted work and, if so, whether that person could be considered the author of that work. In this case, the applicant sued [...]
Curious what the AI Act means for you? Use our online tool EU AI Act: Which rules apply to you? Today's crucial vote: European Parliament approved the AI Act Today, the European Parliament approved the Artificial Intelligence Act. The regulation, agreed in negotiations with the Member States in December 2023, was endorsed by the Members of the European [...]
The Dutch Authority for Digital Infrastructure ('RDI') published their annual plan which included a focus on artificial intelligence. The following text is reproduced from their annual plan and translated into English. The original document containing the Dutch text can be found here. Context The developments of artificial intelligence (AI) are moving faster and faster, constantly influencing our lives and society. [...]
What does the Digital Service Act mean for my business? From 17 February 2024, the Digital Services Act (DSA) will apply. This new regulation within the European Union has far-reaching implications for all businesses offering online services; from e-commerce platforms and social media to search engines and cloud services such as Amazon, Instagram and YouTube. It is crucial for your [...]
The European Commission launched an AI Innovation Package on January 24, 2024, to support AI startups and SMEs in the EU. This package follows the EU AI Act agreement from December 2023. Key features of the AI Innovation Package include: Establishing AI Factories for dedicated AI supercomputing. Providing European AI startups access to supercomputers for training AI models. Creating [...]
Global attitudes towards AI and copyright protection: an update from China While the US and the EU tend not to grant copyright to works created by artificial intelligence, China does in a recent ruling. This groundbreaking decision, that contrasts with the stance of the US and most of the EU, marks a significant shift in the global landscape of intellectual [...]
New York Times files case against AI giants for copyright infringement The New York Times ('the Times') believes that independent journalism is under pressure due to the rise of generative AI (‘GenAI’). This type of artificial intelligence, which would widely copy and use the content of publications without permission to build large language models (LLMs), threatens not only journalistic [...]
The journey of the EU Data Act began with its initial proposal by the European Commission in February 2022, showcasing the EU's proactive approach in shaping the digital economy. On 27 November 2023 the Council approved the Data Act, after the European Parliament (EP) adopted the EU Data Act on November 9, 2023. This marks a significant milestone in the [...]
Spain has launched the first AI Act Regulatory Sandbox in the European Union, providing a controlled environment for testing AI systems. The legislation on the sandbox, announced on November 8, 2023, allows participants to evaluate their AI systems' compliance with the proposed EU AI Act and to undergo self-assessment and post-marketing evaluation. For what and who can the sandbox be [...]
Pioneering trustworthy AI with the AI Pact At Legal AIR we recognise the significance of the European Commission’s initiative of the AI Pact and the urgent need for industry-wide involvement to shape a future where AI is not only advanced but also trusted and lawful. The AI Pact [...]
Het College voor de Rechten van de Mens ('het College’) heeft vorige week weer een uitspraak gedaan waarin algoritmes centraal staan. Eerder schreven wij al over de uitspraak van het College over de datingapp Breeze. Het College oordeelde daar dat Breeze actief discriminatie in haar matchingalgoritme tegen moet gaan. Breeze had namelijk concrete signalen ontvangen dat gebruikers met een donkere [...]
De Commissie-Von der Leyen begon in 2019 en treedt af in 2024. Op 17 oktober heeft President Von der Leyen het werkprogramma voor 2024 aangekondigd, met als titel Delivering today and preparing for tomorrow. Wat houdt dit precies in? Ten eerste wil de Commissie natuurlijk dat alle wetten die ze de afgelopen jaren voor heeft gesteld aangenomen worden. Er worden [...]
Case study responsible innovation of AI at Erasmus MC Erasmus MC was the subject of a case study on responsible innovation of AI by Denise de Vries, a student of the TUDelft. The aim of the study was to find out how Erasmus MC can properly prepare for the AI Act. The study resulted in two designs, a concept of [...]
The Digital Agenda and the Digital Single Market (DSM) strategy have dominated the EU's legislative agenda over the past decade, resulting in an extensive and complicated set of regulations and rules. We will be starting a blog series to provide an analysis of the legislation adopted and in the pipeline. The serie also provides a roadmap through the maze of [...]
Now that all three political bodies of the EU have published their own versions of the AI Act, the trilogues can start. The Parliament has prepared a handy comparison sheet for this. In the coming months, the three parties will be negotiating to create a final draft agreement out of the three documents.
De onderhandelingen kunnen beginnen. Het Europees Parlement heeft op 14 juni 2023 ‘haar’ versie van een AI Verordening vastgesteld. Na het voorstel van de Europese Commissie (april 2021) hebben de Lidstaten in hun versie vastgesteld (december 2022). Nu kunnen deze drie partijen gaan onderhandelen over een compromis tekst die vervolgens door het Europees Parlement moet worden aangenomen. Enkele interessante punten [...]
De Tweede Kamer heeft op 25 januari gedebateerd met minister Adriaansens en staatssecretaris Van Huffelen over het WRR AI-rapport. De Wetenschappelijke Raad voor het Regeringsbeleid heeft op 11 november 2021 het rapport 'Opgave AI - De nieuwe systeemtechnologie’ gepubliceerd. In dit rapport stelt de WRR dat AI invloed zal hebben op de hele samenleven. Om die reden zou de overheid [...]
LegalAIR en het AI Innovation Center zijn verheugd om aan te kondigen dat de kickoff van het AI Compliance Check project op 19 januari heeft plaatsgevonden. Dit project heeft als doel om de naleving van regelgeving en de ethische implicaties van AI-systemen te evalueren. De belangrijkste projectpartners waren hierbij aanwezig en zijn enthousiast om samen te werken aan het project. [...]
Woensdag 14 september en donderdag 15 september staat Jos van der Wijst met LegalAIR op de jaarbeurs in Utrecht tijdens de Big Data Expo. De nieuwe AI Verordening geeft meer duidelijkheid over wat wel en niet mag met AI toepassingen. Wil je weten wat wel en niet mag met AI toepassingen? En waar moet een AI toepassing aan voldoen (juridisch, [...]
Het Amsterdam UMC kondigde gister vol trots aan dat ze een AI-systeem hebben ontwikkeld voor op de Intensive Care (IC). Dit systeem zal internisten advies gaan geven over wanneer een patiënt ontslagen kan worden van de IC en daarmee naar de verpleegafdeling kan. Het systeem heeft hiervoor toegang tot het elektronische patiëntendossier. Het AI-systeem zal internisten advies geven over een [...]
Het VK heeft binnen Europa een leidende positie op het gebied van AI investeringen, startups en onderzoek. Wereldwijd doen alleen de VS, India en China het betere, landen die allemaal veel groter zijn dan het VK. Om deze positie te behouden en zich te onderscheiden van de EU heeft de regering van het Verenigd Koninkrijk een nieuwe visie op het [...]
Alle gemeentes stopten in 2020 met het gebruiken van een omstreden fraudedetectiemethode. Alle gemeentes? Nee! Er zijn nog verschillende gemeentes die ook in 2022 nog de fraudescorekaart gebruikten om bijstandsaanvragen te beoordelen. Het is bijna een Asterix en Obelix verhaal. In 2020 zouden alle gemeentes al gestopt moeten zijn met het gebruik van dit systeem, maar in ieder geval de [...]
De Europese Commissie en de Spaanse regering presenteerde op 27 juni 2022 de pilot van de eerst AI regulatory sandbox. Deze sandbox loopt vooruit op het voorstel van de AI Act, waarin AI regulatory sandboxes expliciet zijn opgenomen. Een regulatory sandbox is een plek waar organisaties nieuwe technologieën kunnen ontwikkelen en testen. Dit gebeurt in samenwerking met toezichthouders. Door de [...]
Vorig jaar publiceerde we al een artikel over de mogelijkheid om een AI als uitvinder van een octrooi aan te wijzen. De ontwikkelaar van DABUS, een AI die nieuwe ideeën bedenkt, had octrooiaanvragen ingediend in de EU, Zuid-Afrika en Australië. In de EU werd niet geaccepteerd dat een AI-systeem de uitvinder zou zijn, in Zuid-Afrika wel. In Australië ging het [...]
Op 31 maart 2022 heeft het webinar AI Regulatory Sandbox plaatsgevonden. U kunt het webinar hier terugvinden: https://www.youtube.com/watch?v=d-2FqxJNMNwvan De slides kunt u hier downloaden. Which rules and regulations apply to AI systems? How do you test the compliance of an AI system? Can you temporarily ignore certain rules in order to test the consequences of an AI system? In the [...]
Boetes voor Clearview AI Het Amerikaanse bedrijf Clearview AI verzamelt foto’s van gezichten door het internet te scrapen. Hierdoor heeft het een database opgebouwd met miljarden foto’s en bijbehorende namen. Met deze database heeft Clearview AI een identificatiesysteem op basis van gezichtsherkenning gemaakt. Deze dienst wordt aangeboden aan overheidsorganisaties over de hele wereld. Eind augustus 2021 heeft de Volkskrant een [...]
Hi allemaal! Wij zijn Didi Leferink (21) en Asli Ilik (25), vierdejaars HBO-Rechtenstudenten aan de Juridische Hogeschool Avans-Fontys. Momenteel zijn wij bezig met een afstudeerstage bij BG.legal. Tijdens onze stageperiode verrichten wij 14 weken lang individueel een juridisch relevant onderzoek. Aan de hand van de resultaten uit het onderzoek, zullen wij een beroepsproduct opstellen die BG.legal in de praktijk kan [...]
Voor context kunt u ons overzichtsartikel over de AI Act lezen. Op Europees niveau wordt in verschillende commissies onderhandeld over het voorstel voor de AI Act. In het Europees Parlement zullen de IMCO en LIBE commissies de onderhandelingen gaan leiden. Hiervoor krijgen ze input van de andere commissies, waarvan een aantal al conceptrapporten hebben gepubliceerd: Commissie voor het Milieu, [...]
AI en AgriFood In deze online cursus ontdek je samen met andere groene professionals wat AI nu eigenlijk is en hoe het de AgriFood sector kan helpen. Je leert in je eigen tempo, wanneer het jou uitkomt. Tijdens deze cursus leer je: Te beschrijven wat AI is Wat toepassingsmogelijkheden van AI in de AgriFood sector zijn Wat de impact [...]
Na een jaar bouwen is de eerste fase van LegalAIR afgerond. Er staat een kennisplatform waar we trots op zijn. Met informatie waardoor bezoekers, laagdrempelig vragen over juridische en ethische aspecten van kunstmatige intelligentie kunnen beantwoorden. Veel dank aan Metropoolregio Eindhoven, Provincie Noord-Brabant, de NL AIC en verschillende organisaties die de ontwikkeling van LegalAIR mogelijk hebben gemaakt. Na [...]
In het nieuwe regeerakkoord staat het volgende voornemen: "We regelen wettelijk dat algoritmes worden gecontroleerd op transparantie, discriminatie en willekeur. Een algoritmetoezichthouder bewaakt dit." Een extra toezichthouder erbij dus. Misschien is dat een goed idee, de Autoriteit Persoonsgegevens lijkt niet genoeg mankracht te hebben voor haar huidige taken, laat staan een extra pakket erbij. Op dit moment zijn er verschillende [...]
Het Ministerie van VWS heeft samen met onderzoekers van het UMC Utrecht een hulpmiddel ontwikkeld om het innovatieproces te ondersteunen. Het Hulpmiddel Handelingsruimte Waardevolle AI voor gezondheid en zorg is onderverdeeld in zeven fases. Iedere fase heeft een gate en daarin worden vragen gesteld over de innovatie in die fase. Deze vragen hebben als doel om de grenzen uit wet- [...]
De overheid is steeds meer bezig met proactief informatie delen en ook op EU niveau wordt hier al jaren aan gewerkt. De Open Data richtlijn van 2019 (de richtlijn) over deze overheidsinformatie moest in juli al geïmplementeerd zijn bij de lidstaten. Hoewel dit in Nederland nog niet is gebeurd, is het al wel mogelijk om de te verwachte veranderingen te [...]
Kan een AI-systeem aangewezen worden als uitvinder op een octrooiaanvraag? Er wordt door juristen al langer een discussie gevoerd over de vraag of een AI-systeem de uitvinder van een octrooi kan zijn. Prof. Ryan Abbott is van mening dat dit mogelijk zou moeten zijn en dat de wet hier tekort schiet. Geen enkel land heeft hier namelijk een specifieke wettelijk [...]
De verdeling van de schaarse hoeveelheid coronavaccins is één van de vele vraagstukken waar de regering zich mee bezig hield. In de eerste helft van 2021 waren er 20 verschillende groepen die op verschillende momenten een vaccin kregen. De huisartsen waren verantwoordelijk voor het vaccineren van o.a. de leeftijdsgroep 60-64 jaar en de mensen met een medische indicatie. Ouderen werden [...]
Legal AIR is eindelijk live!