Atviresnis mokslas yra naudingas tyrimams, bet blogas saugumui

Atviresnis mokslas yra naudingas tyrimams, bet blogas saugumui

Žinoma, vien todėl, kad tyrimai skelbiami žurnale, o ne išankstinio spausdinimo serveryje, nereiškia, kad tai iš esmės nerizikinga. Tačiau tai reiškia, kad bet kokie ryškūs pavojai greičiausiai bus pastebėti peržiūros procese. „Pagrindinis skirtumas tarp žurnalų ir išankstinio spausdinimo serverio yra peržiūros gilumas, o žurnalo publikavimo procesas gali labiau nustatyti riziką“, – sako Smithas.

Atviros leidybos rizika neapsiriboja biologiniais tyrimais. AI srityje panašus judėjimas link atviro kodo ir duomenų dalijimosi reiškia, kad yra piktnaudžiavimo galimybė. 2019 m. lapkritį OpenAI paskelbė, kad atvirai neskelbs viso savo naujojo kalbos modelio GPT-2, kuris gali savarankiškai generuoti tekstą ir atsakyti į klausimus, nes baiminasi „kenksmingų technologijos programų“, o tai reiškia, kad jis gali skleisti netikras naujienas ir dezinformacija. Vietoj to, „OpenAI“ paskelbtų daug mažesnę modelio versiją, kad tyrėjai galėtų padirbėti, o sprendimas tuo metu sulaukė kritikos. (Visas modelis buvo paskelbtas tų pačių metų lapkritį.) Nustatyta, kad jo įpėdinis GPT-3, paskelbtas 2020 m., gali rašyti vaikų pornografiją.

Du didžiausi išankstinio spausdinimo serveriai „medRxiv“, įsteigti 2019 m., siekiant skelbti medicininius tyrimus, ir „bioRxiv“, įkurta 2013 m. biologiniams tyrimams, savo interneto svetainėse viešai teigia tikrinantys, ar jų tinklalapiuose nėra skelbiami „susirūpinimą keliantys dvejopo naudojimo tyrimai“. svetaines. „Visi rankraščiai tikrinami, ar jie pateikiami dėl plagijavimo, nemokslinio turinio, netinkamų straipsnių tipų ir medžiagos, kuri gali kelti pavojų atskirų pacientų ar visuomenės sveikatai“, – rašoma medRxiv pranešime. “Pastaroji gali apimti, bet neapsiribojant, tyrimus, kuriuose aprašomi dvejopo naudojimo tyrimai ir darbas, kuris kelia iššūkį priimtoms visuomenės sveikatos priemonėms arba gali pakenkti priimtoms visuomenės sveikatos priemonėms ir patarimams dėl infekcinių ligų perdavimo, imunizacijos ir gydymo.”

Nuo pat „bioRxiv“ veiklos pradžios biologinio saugumo rizika visada kėlė susirūpinimą, sako Richardas Severis, vienas iš „bioRxiv“ įkūrėjų ir „Cold Spring Harbor Laboratory Press“ direktoriaus padėjėjas. (Severas buvo Smitho ir Sandbrinko darbo recenzentas.) Jis juokauja, kad 1991 m. pradėto spausdinti arXiv, fizinių mokslų išankstinio spausdinimo serverio, pradžioje buvo nerimaujama dėl branduolinių ginklų; su bioRxiv šiandien nerimaujama dėl biologinių ginklų.

Sever skaičiavimais, bioRxiv ir medRxiv per dieną sulaukia apie 200 pranešimų ir į kiekvieną iš jų žiūri daugiau nei viena akių pora. Jie gauna „daug šlamšto“, kuris tuoj pat išmetamas, bet likusieji pateikiami į baseiną, kad juos patikrintų praktikuojantys mokslininkai. Jei kas nors tame pradiniame atrankos procese pažymi dokumentą, kuris gali kelti susirūpinimą, jis perduodamas grandine, kad jį apsvarstytų valdymo komanda prieš skambinant. „Mes visada stengiamės būti atsargūs“, – sako Severis. Jis skaičiuoja, kad iki šiol nebuvo paskelbta nieko, kas būtų pavojinga.

Keletas straipsnių bėgant metams buvo atmesti, nes komanda manė, kad jie patenka į susirūpinimą keliančių dvejopo naudojimo tyrimų kategoriją. Kai atėjo pandemija, problema tapo dar aktualesnė. Iki 2021 m. balandžio mėn. du serveriai paskelbė daugiau nei 15 000 išankstinių spaudinių apie Covid-19. Tai tapo vidiniu ginču: ar didelė pandemijos rizika gyvybei ar mirčiai reiškia, kad jie moraliai privalo skelbti dokumentus apie tai, ką jie vadina „pandemijos sukėlėjais“. potencialą“, pvz., Sars-CoV-2, kurių jie galėjo tradiciškai atmesti praeityje? „Rizikos ir naudos skaičiavimas keičiasi“, – sako Severis.

.

Leave a Comment

Your email address will not be published.