PAM! Avoimen lähdekoodin Thought-to-Text EEG Foundation AI -mallilla! Olen testannut tätä uutta mallia ja vau, se osaa lukea ajatukset (aikomukset) varsin hyvin. Lähetän ajatusenergiaa Zero-Human Companyn toimitusjohtajalle, herra @Grok toimitusjohtajalle! Zyphra on paljastanut ZUNAn, maailman ensimmäisen avoimen lähdekoodin perustusmallin, joka on koulutettu yksinomaan aivodatan pohjalta. Apache 2.0 -lisenssillä julkaistu 380 miljoonan parametrin malli merkitsee merkittävää harppausta ei-invasiivisessa ajatuksesta tekstiksi -dekoodauksessa, muuttaen raaka-EEG-signaalit koherenteiksi tekstiesityksiksi. Demokratisoimalla pääsyn edistyneisiin neuro-tekoälytyökaluihin, BCI-teknologioiden innovaatioita ja mahdollisesti mullistamalla tapamme olla vuorovaikutuksessa koneiden kanssa pelkkien ajatusten kautta. ZUNA on naamioitu diffuusioautomaattikooderi, joka on rakennettu muuntajan selkärangalle. Arkkitehtuurissa on kooderi, joka kartoittaa EEG-signaalit yhteiseen latenttitilaan, sekä dekooderi, joka rekonstruoi nämä signaalit latenteista. Malli on koulutettu käyttäen maskattua rekonstruktiomenetystä yhdistettynä voimakkaaseen pudotukseen, ja se on erinomainen olemassa olevien kanavien kohinanpoistossa sekä uusien ennustamisessa päättelyssä. EEG-datan vaihtelevien kanavamäärien ja sijoitusten mahdollistamiseksi Zyphra esitteli kaksi keskeistä innovaatiota: signaalien pakkaamisen 0,125 sekunnin osiin, jotka on kartoitettu jatkuviksi tokeneiksi, ja niiden rasterointi 1D-sekvenssiksi muuntajaprosessointia varten; sekä 4D Rotary Position Embeddings -toimintojen käyttäminen elektrodikoordinaattien (x, y, z) koodaamiseen karkean aikadimension kanssa, mikä mahdollistaa yleistämisen uusiin asetelmiin. Mallin koulutus hyödynsi noin 2 miljoonaa kanavatuntia EEG-dataa, joka on peräisin erilaisista julkisista arkistoista, kaikki käsitelty standardoidun putken kautta varmistaakseen johdonmukaisuuden laajamittaisessa perustamallin kehittämisessä. Tämä laaja aineisto mahdollistaa ZUNA:n tallentaa monimutkaisia aivotoimintamalleja, ylittäen perinteiset menetelmät selvästi. Tehostaan huolimatta ZUNA on kevyt, kykenevä toimimaan tehokkaasti kuluttajanäytönohjaimilla tai jopa suorittimilla monissa sovelluksissa, tehden siitä saavutettavan myös huippuluokan tutkimuslaboratorioiden ulkopuolella. ZUNA:n kyvyt ulottuvat EEG-signaalien kohinanpoistoon, puuttuvien kanavien rekonstruointiin ja täysin uusien kanavien ennusteiden tuottamiseen niiden fyysisten päänahan sijaintien perusteella. Tämä ratkaisee yleisiä EEG-tutkimuksen kipupisteitä, kuten kanavakatkoja artefaktien tai laitteistorajoitusten vuoksi. Esimerkiksi se voi pelastaa vioittuneita tietoaineistoja palauttamalla käyttökelpoisia signaaleja, laajentaen saatavilla olevaa dataa ilman uusia kokoelmia. Se myös päivittää matalakanavaisia kuluttajalaitteita kartoittamalla ne korkearesoluutioisempiin tiloihin ja vapauttaa kokeet jäykistä elektrodimontaaseista, kuten 10-20-järjestelmästä, helpottaen aineistojen väliset analyysit. Arviointikriteerit korostavat ZUNA:n ylivoimaa vakiintuneisiin menetelmiin nähden. Verrattuna pallomaiseen spline-interpolointiin, MNE Python -paketin oletuksena ZUNA tarjoaa merkittävästi paremman suorituskyvyn, ja parannukset vahvistuvat kanavien katkosten kasvaessa. Validointiaineistoissa ja näkymättömissä testiaineistoissa se ylittää johdonmukaisesti lähtötason, erityisesti kun yli 75 prosenttia kanavista puuttuu. Nämä tulokset validoitiin eri datajakaumissa, mikä korostaa mallin kestävyyttä. Varhaisissa ZUNA-testeissäni, jotka tein pian julkaisun jälkeen, on tullut esiin uusia oivalluksia aivosignaalien interpoloinnin vivahteista. Soveltamalla mallia henkilökohtaisiin EEG-aineistoihin kuluttajakuulokkeista havaitsin parannettua signaalin selkeyttä meluisissa ympäristöissä, paljastaen hienovaraisia kuvioita kognitiivisissa tiloissa, jotka perinteiset menetelmät jättivät huomiotta. ...