Convolutional neural networks (CNN)

Convolutional neural networks (CNN) sunt un tip de rețele neuronale artificiale  utilizate în principal pentru problemele legate de interpretarea datelor vizuale (imagini  și videoclipuri), localizarea obiectelor, segmentarea semantică, recunoașterea optică a  caracterelor etc. Un CNN poate fi construit cu mai multe straturi. Se cunosc trei mari  categorii de straturi: de convoluție, de pooling și complet conectate, asociate cu o  funcție comună de activare.  

Stratul de convoluție este blocul central al CNN-ului și reprezintă partea principală  a sarcinii computaționale a rețelei. Parametrii stratului convoluțional constau într-un set  de filtre aplicate. Fiecare filtru este de mici dimensiuni (de-a lungul lățimii și înălțimii),  dar se extinde prin toată adâncimea volumului de intrare.  

Stratul de pooling se introduce periodic între straturile consecutive convoluționale  într-o arhitectură CNN. Funcția sa este de a reduce progresiv dimensiunea spațială,  pentru a reduce cantitatea de parametri și de calcul în rețea și, prin urmare, de a evita  supraantrenarea. Stratul „Pooling” funcționează independent la fiecare strat din  adâncimea intrării și o redimensionează spațial, utilizând operația MAX. 

Stratul complet conectat are neuronii cu conexiuni complete la toate activările din  stratul anterior, așa cum se observă în rețelele neuronale obișnuite, Artificial Neural  Networks (ANN). Activarea lor poate fi astfel calculată cu o multiplicare a matricei  adăugându-se și deplasarea (termenul prag), cunoscut drept bias.  

Clasificarea poate fi făcută de un strat Softmax. Practic, fiecare neuron dintr-un  strat este conectat la fiecare neuron din stratul următor, iar fiecare strat își primește  aportul din ieșirea stratului anterior. 

Mai jos sunt date câteva exemple de aplicații ale CNN.  

I. În sectorul sănătății, aplicațiile de imagistică medicală implică clasificarea,  detectarea și segmentarea obiectelor. Visual Geometry Group (VGGNet) este o  rețea dezvoltată de Karen Simonyan și Andrew Zisserman (Simonyan and  Zisserman, 2015). Rezultatele lor arată că adâncimea rețelei are o influență  semnificativă asupra performanței rețelei. Modelul lor conține 16 straturi  convoluționale complet conectate și o arhitectură omogenă care realizează  convoluții de tip 3×3 și pooling 2×2. 

II. În sectorul economic, unde se încadrează și lucrarea amintită, a fost utilizat  word2vec ca încorporare de cuvinte pentru a forma stratul de intrare al CNN-ului. Word2vec este utilizat pentru a construi matricea vectorială ce  caracterizează d.p.d.v. semantic fiecare cuvânt din intrare. În timp ce se află în  stratul de mapare, mai multe hărți cu caracteristici alcătuiesc unul dintre  straturile de calcul; o hartă caracteristică corespunde unui plan și toate ponderile  neuronilor de pe același plan sunt egale. Designul CNN l-a făcut un clasificator  adecvat pentru extragerea caracteristicilor semantice din textele corporale.  Descrierea detaliată a structurii convoluționale a modelului de rețea neuronală se  află în lucrarea atașată (Li et al., 2020). 

III. În sectorul comunicării virtuale, unde se încadrează lucrarea (Iftene et al., 2020), modelul CNN este utilizat pentru analiza în timp real a canalului  Twitter, dovedindu-se că el poate să ofere elemente cheie despre credibilitatea  tweet-urilor cât și a utilizatorilor care le-au postat. “Hărțile” utilizate aici  integrează informații culese de la utilizatori. Se crează astfel “imagini” în care se  pot apoi localiza “zonele”, adică postările și autorii lor, din care provin știrile  categorizate în false și non-false.

  1. (Simonyan and  Zisserman, 2015) Simonyan, Karen and Zisserman, Andrew (2015). Very Deep Convolutional Networks  for Large-Scale Image Recognition. In: International Conference on Learning  Representations – arXiv:1409.1556.
  2. (Li et al., 2020) Youzhu Li, Huiling Zhou, Zhonglong Lin, Yifan Wang, Shunjie Chen, Chang Liu, Zhouyang Wang, Daniela Gifu, Jingbo Xia. Investigation in the influences of public opinion indicators on vegetable prices by corpora construction and WeChat article analysis. In: Future Generation Computer Systems, vol. 102, pages 876-888, 2020, https://www.sciencedirect.com/science/article/pii/S0167739X18327341
  3. (Iftene et al., 2020) Adrian Iftene, Daniela Gîfu, Andrei-Remus Miron, Mihai-Ștefan Dudu. A Real-Time System for Credibility on Twitter. In: Proceedings of the 12th Language Resources and Evaluation Conference, pages 6166–6173, Marseille, France. European Language Resources Association, https://aclanthology.org/2020.lrec-1.757.pdf

Leave a Reply

Your email address will not be published. Required fields are marked*