bookblog.ro

Iluzia utilizatorului

Scris de • 21 February 2010 • in categoria

0Iluzia utilizatorului recenzie
Autor: Tor Ní¸rretranders
Subtitlu: Despre limitele conştiinţei
Rating: Iluzia utilizatorului rating - recenzii carti
Editura: Publica
Anul apariţiei: 2009
Traducător: Laurenţiu Staicu
441 pagini
ISBN: 978-973-1931-09-8

Cartea lui Tor Ní¸rretranders seamănă cu dulciurile din copilăria pofticioşilor. Dulciurile acelea care se mănâncă cu poftă, fără să te poţi opri. Însă, la final, când ai golit raftul, îţi dai seama că ai dobândit, pe lângă o durere de burtă, prilejul unui simpatic diabet zaharat, însoţit eventual de nişte dinţişori stricaţi.

Iluzia utilizatorului este o lucrare densă, efervescentă, a unui autor înzestrat cu un oarecare farmec, pe care nu-ţi poţi permite să o citeşti pe diagonală, care are ca ţintă principală înţelegerea a ceea ce se întâmplă cu conştienţa* noastră în situaţii precum ascultatul muzicii, iluziile optice, învăţatul cântatului la pian, mersul pe bicicletă - sau, mai pe scurt, de-a lungul întregii vieţi. Concluziile lui sunt surprinzătoare. La fel şi ale mele.

Fără a ne rătăci prea mult în jungla de detalii cu care ne răsfaţă autorul danez, să încercăm un rezumat. Povestea începe cu pacostea numită a doua lege a termodinamicii, care spune că ori de câte ori transformăm (sau consumăm) energie, rămâne din ce în ce mai puţină energie disponibilă. Cenuşa care rămâne după ce am băgat lemne în foc nu mai poate fi folosită pentru a face cald în sobă. Bateriile de la CD player nu mai pot fi folosite, decât dacă sunt din nou încărcate - adică un nou ciclu de consum de energie. Dar mai ştim că energia este constantă (adică şlagărul de la orele de fizică din liceu: "nimic nu se câştigă, nimic nu se pierde, totul se transformă"). De mai bine de un secol, aceste două legi au dat fiori oamenilor de ştiinţă, care cred că totul se îndreaptă către o moarte termică a universului. Unul dintre ei, Rudolf Clausius, a numit acest fenomen entropie (adică "măsura indisponibilităţii unei anumite cantităţi de energie"). Cenuşa, ca să spunem aşa, este "plină" de entropie. Nu va putea produce căldură - poate fi cel mult presărată pe jos, ca oamenii să nu-şi luxeze gleznele.

O ISTORIOARÄ‚ CU SCARAOŢCHI

Aici apare în scenă James Clerk Maxwell, care, împreună cu Ludwig Boltzmann, afirmă că ceea ce numim noi căldură e o mişcare a miliarde de molecule, fiecare având viteza ei proprie. Şi ce-i dă prin cap lui Maxwell - ce-ar fi dacă în mijlocul unui recipient în care este căldură ar exista o fiinţă mică care nu e atotputernică, dar e suficient de deşteaptă ca să cunoască traseele tuturor moleculelor şi suficient de rapidă încât doar să deschidă şi să închidă un orificiu din recipient, astfel încât moleculele cu viteză mare să fie lăsate să treacă în compartimentul din dreapta, iar cele mai încete să rămână în stânga? Temperatura ar creşte în dreapta, şi ar scădea în stânga. Deci s-ar întâmpla ceva nemaipomenit: s-ar produce căldură într-un mediu cu temperatură moderată. S-ar părea că disiparea energiei "depinde de întinderea cunoaşterii noastre". E ca şi cum ne-am încălzi la un foc de cenuşă! Morala : legea asta ni se aplică nouă, pentru că suntem "prea mari şi prea neîndemânatici" să o ocolim... Dar dacă am fi atât de inteligenţi şi de rapizi precum... În fine, cert e că această vietate - numită demonul lui Maxwell - încă mai bântuie visele oamenilor de ştiinţă care vor să găsească metoda prin care se poate "păcăli" legea a doua a termodinamicii.

Unul dintre cei bântuiţi a fost fizicianul ungar Leo Szilard, care a pus prin anii "™30 o întrebare crucială, apropo de Aghiuţă cel iute: putem şti totul despre lume fără să o schimbăm? Evident, nu se poate. Demonul lui Maxwell, ca să poată şti traseele moleculelor pe care vrea să le controleze, trebuie facă nişte măsurători. Adică trebuie să consume şi el nişte energie. Adică să producă entropie. Adică am ajuns de unde am plecat. Unde-i lege - chiar a termodinamicii, nu-i tocmeală - chiar dacă eşti drăcuşor. Dar dacă, spun adversarii lui Szilard, am putea cunoaşte dincolo de cunoaştere? Dacă, în loc să stea cu carneţelul în mână, desenând la nesfârşit liniuţe şi tabele, demonul lui Maxwell ar intui la perfecţie traseele moleculelor? Şi de aici, o lungă poveste cu savanţi din ce în ce mai... înfierbântaţi, care se chinuie să-i dea o mână de ajutor micului personaj. În fine, pentru a scurta povestea, se ajunge la concluzia că demonul, pentru a fi eficient, trebuie să dobândească informaţii despre molecule, dar trebuie să le şi uite, pentru a putea dobândi noi informaţii. Or, şi asta crează entropie. Deci - surpriză! - "nu dobândirea informaţiei este cea care-l costă pe demon. Ci uitarea ei". Cu cât mai multă informaţie, cu atât mai multă entropie şi, deci, dezordine. (Aviz maniacilor internet-TV şi celor care plesnesc de bucurie că trăiesc într-o "societate informaţională"!)

Să exemplificăm, ca să nu uităm de unde am plecat:

Dacă avem în faţă o hârtie pe care este desenat un cerc, informaţia se reduce la cuvântul "cerc", însoţit probabil de un număr care reprezintă diametrul său. În economia informaţională, asta ne costă vreo doi biţi de informaţie. Cu aceşti doi biţi, putem face câte cercuri identice vrem. Dacă, însă, hârtia este mâzgălită de Petrişor de la grupa mijlocie, desenul conţine mult mai multă informaţie. Ar trebui să măsurăm fiecare linie în parte, fiecare curbă în parte, unghiurile sub care se unesc fiecare dintre ele, ansamblul lor etc.

Ar mai fi o metodă prin care să-i împăcăm pe demonul lui Maxwell şi pe Petrişor - să găsim o formulă prin care să rezumăm, să comprimăm traseele moleculelor, respectiv mâzgăleala, pentru ca micul Aghiuţă să reuşească să separe moleculele şi să se încălzească, iar micul Petrişor să primească desert. Unele lucruri pot fi rezumate: "AAAAAAAAAA" înseamnă, de fapt, "A de 10 ori". Simplu, eficient şi uşor de reţinut. Dar dacă trebuie să rezumăm un copac? Sarcina devine imposibilă. Ar trebui să descriem fiecare fibră, fiecare frunză, felul în care sunt ele dispuse, felul în care se mişcă atunci când adie vântul, când e furtună, când vine toamna etc. etc. etc. Descrierea cea mai rezumată a copacului nu poate fi decât copacul însuşi. La fel şi în cazul moleculelor şi al desenului stângaci. Deci, nu putem cunoaşte totul despre lume. Ceea ce pare pentru noi de bun-simţ, nu era şi pentru cei mai mulţi dintre respectabilii oameni de ştiinţă care sperau să poată explica lumea prin câteva formule logice sau fizice sau chimice sau matematice.

Problema a fost însă rezolvată de un matematician austriac fascinant, pe numele lui Kurt Gí¶del, care a năruit, la 24 ani, în 1930, toate aceste speranţe deşarte:

"Ideea ingenioasă a lui Gí¶del a fost aceea de a lua în discuţie propoziţia «Nu pot fi demonstrată». Dacă este adevărată, înseamnă că nu o putem demonstra. Dacă este falsă, atunci o putem demonstra - altfel spus, am demonstrat că este falsă. Propoziţia este adevărată dacă şi numai dacă nu poate fi demonstrată." Cu alte cuvinte, "corectitudinea unei structuri logice sau a unui limbaj nu pot fi niciodată demonstrate dinăuntru". Deci, nu putem demonstra totul, va exista întotdeauna ceva care ne scapă. Demonul lui Maxwell nu va reuşi să separe moleculele, iar noi vom rămâne agăţaţi, vrând-nevrând, de calorifere şi sobe.

Cititorii care m-au suportat până aici probabil că se întreabă ce legătură poate să aibă Maxwell şi încornoratul său cu zăpăcitul de Petrişor, cu noi înşine şi cu subiectul cărţii (care este, cum spuneam - "ce se întâmplă cu conştienţa noastră când ... ştii ... muzica, iluziile optice, pianul, bicicleta, viaţa noastră cu totul..."). Îi rog să mai aibă puţintică răbdare, să-şi ia răgazul unei cafele sau al unui ceai. Cartea lui Ní¸rretranders e incitantă, dar şi plină de informaţii, deci şi de dezordine, aşa că sarcina mea nu e mai uşoară decât a celor care fac curat după petrecerea de revelion din piaţa centrală.

COMPLEXITATEA

Dezordinea e neinteresantă, deci. La fel de neinteresantă cu a scrie: "GNFJIDH VFDOGTIN GT548" sau a face versuri în manieră postmodernă, pe care să nu le înţeleagă nimeni, nici măcar autorul lor. Dar nici ordinea totală nu e chiar palpitantă. Cine ar citi până la capăt recenzia de faţă dacă ea ar fi scrisă aşa: "ABABABABABABABA"? Între aceste două extreme, ne spune autorul, trebuie să existe ceva care nu e nici banalitatea repetitivă a ordinii complete, dar nici balamucul dezordinii totale. Ceva suficient de complicat încât să ne provoace interesul, dar îndeajuns de ordonat să-l putem înţelege cât de cât. Ní¸rretranders numeşte acest lucru "complexitate" - "acest teritoriu aflat între ordine şi haos cuprinde practic toate lucrurile despre care merită să discutăm, toate lucrurile despre care discutăm şi pe care le trăim în viaţa de zi cu zi: fiinţe vii, schimbări ale vremii, peisaje frumoase, conversaţii prietenoase, salate delicioase, distracţie şi jocuri".

Bun. Şi cum să facem ca să înţelegem complexitatea? Charles Bennett de la IBM a propus, prin anii "™90, un criteriu foarte interesant - acela de adâncime logică: "complexitatea ar urma să fie măsurată nu în funcţie de lungimea unui mesaj, ci în funcţie de munca făcută anterior pentru a obţine mesajul ["] Adâncimea logică măsoară procesul care duce la o anumită canitate de informaţie, şi nu cantitatea de informaţie care este produsă şi poate fi transmisă". (Este, să recunoaştem, un criteriu care face dreptate celor uluiţi de rating-ul nopţilor de trăncăneală nesfârşită de la OTV - multă informaţie, puţină muncă, adâncime logică aproape de zero, complexitate aproape de zero. Deci relevanţă zero.) Dacă punem lângă acest principiu ideea formulată mai sus, că uitarea informaţiei costă, ajungem la concluzia că "adâncimea unui obiect este o măsură a cantităţii de informaţie eliminate pe parcursul apariţiei acestuia". Ca şi cum am scoate în fiecare zi câte o lopată de mâl dintr-un lac. Cu timpul, lacul ar deveni mai adânc. Va fi suferit transformări. Nu va mai avea aceeaşi culoare şi nici malul său nu va arăta la fel ca la început. Dar va fi acelaşi lac. La fel şi cu omul.

Aplicând ceea ce am spus mai devreme - că este, de fapt, mai importantă informaţia eliminată - putem găsi o explicaţie interesantă pentru felul în care am învăţat să mergem pe bicicletă: ni s-a explicat de către tata, fratele sau vecinul de bloc cum trebuie să ne ţinem în echilibru, cum să nu bruscăm coarnele, cum să dăm din pedale - o grămadă de detalii pe care ne forţam să le ţinem minte. Şi totuşi, acel moment extraordinar, în care ne-am desprins de rotiţele ajutătoare şi de mâna care ne ţinea şaua, nu e rezultatul faptului că am gândit simultan toate indicaţiile şi le-am pus în practică. Mai degrabă a fost parcă ceva, dincolo de raţiune, un fel de instinct, un fel de intuiţie (care pe mine nu m-a ţinut prea mult - am aterizat forţat în primul şanţ). Probabil că un proces asemănător are loc şi când copilul începe să înţeleagă şi să vorbească (fratele meu e un bun exemplu aici - când era mic, în afară de gungureli şi scâncete, nu scotea nici un sunet. Într-o zi, când stătea cocoţat pe o grămadă de lemne, mama i-a spus: Ai să cazi! S-a dat jos de acolo, iar mama, nefiind nici ea un om deosebit de raţional, s-a cocoţat în locul lui. Ceea ce probabil că i-a deblocat lui Mutulică ceva în creieraş, fiindcă a amendat-o imediat, cu maximum de coerenţă: Ai să cazi tu! Şi de atunci a început să vorbească.)

De unde Ní¸rretranders deduce: "trebuie să fi existat mai multă informaţie în timpul procesului decât cea cuprinsă în cuvintele care au fost rostite realmente". Şi, pe cale de consecinţă, întrebarea fierbinte cu care ne apropiem de miezul cărţii: "să fie conştiinţa numai vârful unui iceberg mental"?

Cí‚T (NU) Gí‚NDIM

Simţurile noastre primesc informaţii din mediul înconjurător. Fiecare organ de simţ are un anumit număr de receptori. Cu cât mai mulţi receptori (celulele vizuale ale ochiului, papilele gustative ale limbii etc.), cu atât mai mare numărul de conexiuni nervoase care trimit semnale înspre creierul nostru. Toate acestea se pot calcula şi transforma în biţi, pentru a vedea cu aproximaţie cam câtă informaţie primim de fapt. Cifrele sunt surprinzătoare:

"Ochiul trimite creierului cel puţin zece milioane de biţi pe secundă. Pielea trimite un milion de biţi pe secundă, urechea o sută de mii, senzorii mirosului încă o sută de mii de biţi pe secundă, iar papilele gustative aproximativ o mie de biţi pe secundă." Tragem linie şi vedem nota de plată pentru fiecare secundă: 11 milioane de biţi pe secundă.

Şi acum urmează întrebarea de 1.000 de puncte - cât din aceste milioane de biţi percepem conştient ? Profesorul Manfred Zimmerman de la Institutul de Fiziologie al Universităţii din Heidelberg zice că să tot fie vreo ... 40 de biţi. Calculăm repede, cât ai zice entropie şi avem rezultatul ameţitor: percepem conştient cam a ... 275.000-a parte din ceea ce primim din afară. Sunt şi estimări mai optimiste, cum ar fi cea a fiziologului german Dietrich Trincker, care crede că raportul dintre capacitatea de percepţie şi capacitatea de apercepţie este de 1 la 1 milion. Sau cea în care nu percepem conştient nici măcar 40, ci vreo 16 biţi pe secundă (în condiţiile în care OTV-ul sau oricare alt canal de televiziune transmite cam 4 milioane de biţi pe secundă). Rezultatul multor studii ar duce la această idee: mintea noastră ar fi un depozit imens de informaţii, din care nu ajung la suprafaţă decât câteva firimituri. Morala numărul unu: conştienţa "este alcătuită în mult mai mare măsură din informaţia eliminată decât din informaţia prezentă". Morala numărul doi: "atunci când suntem conştienţi de o experienţă înseamnă că ea a trecut". (Cam de aici încolo, relaţia mea cu dl. Ní¸rretranders a început să să nu mai fie atât de amicală...)

Urmează partea interactivă a cărţii, unde autorul încearcă să demonstreze că ceea ce vedem nu este ceea ce vedem, ci că ceea ce vedem este doar propria noastră interpretare. Amatorii de efecte spectaculoase pot încerca una din multe iluzii optice pe care Ní¸rretranders le aduce ca argument. Una dintre ele - cine e în imaginea de mai jos - o femeie tânără sau o femeie bătrână?

Şi din cauza cucoanei fără vârstă certă de mai sus, s-ar părea că "lucrurile pe care le percepem au căpătat sens înainte ca noi să devenim conştienţi de ele". Adică "percepem, simulăm şi abia apoi simţim". Cât timp pierdem de la percepţie până la simţire? Oamenii de ştiinţă zic că ar fi vreo jumătate de secundă. Adio, dragoste la prima vedere!

Mai introducem în piesă un personaj-cheie: Benjamin Libet, de la Departamentul de Medicină de la Universitatea din California, însoţit de prietenul său, Bertram Feinstein, chirurg şi fiziolog de la spitalul Mount Zion (San Francisco). Feinstein se ocupa prin anii "™60 cu tratarea pe cale neurochirurgicală a pacienţilor bolnavi de Parkinson. Deschidea ţeasta pacientului, punea acolo un element care se încălzea şi, la o anumită temperatură, distrugea nişte celule nervoase care provocau dureri bolnavului. Într-o zi, Libet l-a rugat să-l lase să se joace şi el puţin cu creierul bolnavilor, în interes ştiinţific, desigur. Multe din concluziile de mai jos în acest mod: înainte de operaţia lui Feinstein, Libet venea şi le administra nişte şocuri electrice direct pe creier pacienţilor care aveau craniul deschis (probabil mai schimba o vorbă, mai glumea cu ei, întrucât aceştia erau conştienţi). După multe experimente de acest gen, Libet a aflat (probabil pe lângă nişte bancuri bune), că aceştia nu simţeau nimic dacă şocul electric era mai scurt decât o jumătate de secundă:

"Stimularea pielii determină o activitate electrică în creier. Această activitate electrică corespunde stimulului pe care l-a aplicat Libet pacienţilor lui Feinstein (şi ei nu puteau face diferenţa). Cum poate o stimulare electrică a creierului să corespundă unei activităţi neuronale deteminată de o experienţă senzorială, dacă stimularea electrică a trebuie să dureze o jumătate de secundă înainte de a fi simţită? Stimularea pielii dă naştere imediat senzaţiei, însă activitatea din cortex cerută pentru a media senzaţia trebuie să dureze cel puţin jumătate de secundă."

De unde Ní¸rretranders deduce că susnumita conştienţă, pe lângă că e mică - ce mai poţi să faci în zilele noastre cu 16 biţi pe secundă? - ne mai şi păcăleşte - adică ea întârzie cu jumătate de secundă, dar ne lasă impresia retroactivă că de fapt ea a fost mereu pe fază la momentul potrivit. Pare că a fost dragoste la prima vedere, dar, de fapt, şocul s-a întâmplat mai devreme - la jumătate de secundă şi vreo 5 milioane de biţi distanţă...

Şi de aici, calea este deschisă pentru o analiză amănunţită a meciului permanent care se dă în capul nostru între eu şi sine, unde Sinele cel Frumos şi Bun are soarta Cenuşăresei - mereu harnic, mereu atent şi grijuliu, dar mereu lăsat în umbră, pentru că el nu e conştient, precum Eul cel Urât şi Rău, care de fapt culege toate roadele sinelui, pentru că ştie să se prefacă, lăsând tuturor impresia că el a făcut toate lucrurile pentru care trudeşte Sinele. Această înfruntare care este de fapt cheia întregii cărţi este ceea ce Ní¸rretranders numeşte iluzia utilizatorului:

"Eul percepe că el este cel care acţionează; că el este cel care simte; că el este cel care gândeşte. Dar sinele este cel care face toate astea. Eu sunt iluzia utilizatorului pentru mine însumi". (Aici chiar că am rupt prietenia cu savantul danez şi cu prietenii lui. Din respect pentru mine şi prietenii mei, pe care nu îi consider propriile lor iluzii.)

Ultimele o sută de pagini sunt o cursă după argumente în sprijinul iluziei utilizatorului, culese de prin toate colţurile lumii şi istoriei - de la filozofia grecească până la ideologia ecologistă de tip Gaia, de la Leibniz la Aldous Huxley şi Edmund Husserl, de la Big Bang la Kirkegaard, de la teoria haosului la fractali şi inteligenţă artificială până la remarci despre Karl Marx, comunism, societăţi deschise şi civilizaţia contemporană. Sunt convins că cititorul care m-a suportat pe mine până acum le va suporta cu stoicism la lectura cărţii.

ILUZIILE ILUZIEI

Spuneam la începutul recenziei că Iluzia utilizatorului este o carte pe care nu-ţi poţi permite să o citeşti pe diagonală. În acelaşi timp, nu este nici o carte în care să crezi, ca să zic aşa, din toată conştiinţa, deşi musteşte de informaţii interesante, multe dintre ele probabil cât se poate de adevărate.

Sunt cu totul de acord că multe dintre deciziile pe care le luăm nu sunt gândite (adică nu aparţin conştienţei). Atât dintre deciziile inspirate, cât şi dintre cele neinspirate. Ştiu sigur că adesea e foarte bine să acţionezi pur şi simplu, decât să-ţi umpli mintea cu o grămadă de calcule şi probabilităţi. Că ceea ce descoperi pe calea intuiţiei e de cele mai multe ori mult mai bun decât o noapte de înăbuşit mintea cu dileme. E mult mai frumos să ieşi afară în ploaie decât să te gândeşti că, ah, o să te ude până la piele, că va trebui să iei o aspirină după, să faci un duş fierbinte, să dai explicaţii pentru gestul tău necugetat... (Desigur, gestul nu poate fi dus la extrem, aşa cum l-a dus o fostă colegă de liceu, care a venit într-o excursie cu clasa la munte încălţată în nişte pantofiori mov, lăcuiţi, dotaţi chiar cu câte un toculeţ...)

Talentul, arta, replicile geniale ale prietenilor, credinţa sau dragul de cineva nu se pot explica prin intermediul raţiunii. Ştiu că există milioane de lucruri care nu se pot descrie în cuvinte şi nici argumenta. Există cu siguranţă o zonă dincolo de percepţia noastră conştientă, dar ceva (o intuiţie) îmi spune că zona aceea ţine de incognoscibil (adică rămâne să ne vedem fiecare de ea şi să o explorăm pe cont propriu, în tăcere), nu de necunoscut (¬cum crede autorul, care speră că o poate coloniza ştiinţific, chiar şi prin experimente respingătoare precum cele a lui Libet). Dar nici nu-mi place scindarea asta atât de radicală şi de ireconciliabilă între eu şi sine, cu toate consecinţele ce decurg din ea (cum Dumnezeu să-i spui iubitei: "scumpa mea, «sinele meu te acceptă pe tine»"?!).

Cartea lui Ní¸rretranders este, fără îndoială, o trufanda ştiinţifică, însă mă tem că în reţetă s-au ascuns destui coloranţi şi conservanţi.

Spre exemplu, că tot vorbeam de criteriul adâncimii logice - adică un lucru e cu atât mai important cu cât evoluţia sa în timp e mai mare, cu cât a fost mai greu generat. Dar, de pildă, o crimă cu multe acte pregătitoare în mod sigur nu aduce prea multe satisfacţii sinelui - nici sinelui victimei, nici al ucigaşului. Sau, tot apropo de adâncime - are dreptate Ní¸rretranders când spune că "claritatea necesită adâncime". Poate că din cauza asta Brâncuşi polisa formele până la strălucire. Poate din cauza asta Saint-í‰xupery spunea că o operă e finalizată nu când nu mai ai ce adăuga, ci când nu mai ai ce elimina. Dar autorul danez greşeşte când afirmă, un rând mai jos, că "nonsensul nu are adâncime". Nonsensul "pur", să-i zic aşa, nu are adâncime. Dar o mimează - precum poeţii netalentaţi, care vor să impresioneze prin artificii, nu prin substanţă, prin cuvinte complicate, nu prin sensuri. Dar ce se întâmplă dacă în mijlocul unui astfel de aparent nonsens găsesc un epitet bun (care poate să fie doar un epitet bun sau să lumineze dintr-o dată întreaga poezie)? De câte ori am văzut un film care ne-a plictisit o oră şi jumătate, pentru ca la final, datorită unei singure scene, totul să capete brusc înţeles? După câte se pare, vorbim de lucruri prea delicate pentru a le judeca în alb sau negru...

A judeca în alb şi negru înseamnă să afirmi fără nici o ezitare că "gândirea este un eveniment material care are loc în corp şi care seamănă în toate privinţele cu alte activităţi corporale precum mişcarea". Sau că "nu există, aşadar, nici o diferenţă între sistemele care au viaţă şi cele care nu au." Sau că "tehnologia face lucrurile previzibile şi repetabile, astfel că nu trebuie să le dedicăm atât de mult timp şi atenţie". Să-i citezi pe Hans Kornhuber care spune că, de fapt, "sufletul nu este «mai bogat» decât trupul", pe Richard Gregory care şuieră pedant "Realitatea este o ipoteză" sau pe Thomas Nagel cu a sa filozofie a îngheţatei subiective:

"Cum poţi şti dacă atunci când mănânci îngheţată de ciocolată, împreună cu un prieten, ea are acelaşi gust pentru el ca şi pentru tine? [...] Cum poţi şti măcar că prietenul tău e conştient? Cum poţi şti că mai există şi alte minţi în afară de a ta?".

...Sau pe Julian Jaynes de la Princeton University care, cocoţat în plopul cunoaşterii, a aflat că acum trei mii de ani "bărbaţii şi femeile nu erau conştienţi aşa cum suntem noi, nu erau responsabili de acţiunile lor şi, prin urmare, nu pot fi lăudaţi sau blamaţi pentru niciunul dintre lucrurile pe care le-au făcut de-a lungul miilor de ani în care au existat".

Citez din abundenţă tocmai ca să subliniez faptul că, dacă ne încăpăţânăm să credem că tot ceea ce ştim noi, în adâncul nostru, dincolo de conştienţă, merită să fie cunoscut de toată lumea, dat la ştiri, cercetat, măsurat şi întors pe toate părţile de cohorte de tehnicieni, atunci cartea de faţă poate deveni, dintr-o lectură cu premise interesante, una realmente periculoasă.

Îmi închipui ce înseamnă pentru un poliţist al viitorului tehnologic următoarea afirmaţie-concluzie a unor cercetări neurofiziologice conduse de Hans Kornhuber şi Lí¼der Deecke: "Subiecţii au decis să îndoaie degetul. Dar cu o secundă înainte de a face asta, creierul lor indica faptul că se pregăteau să execute acţiunea".

Sau cum se reflectă în mintea unui agent publicitar dedicat trup şi suflet meseriei propoziţia: "Conştiinţa nu poate iniţia o acţiune"? De fapt, există un precedent în America - scandalul mesajelor subliminale ascunse în clipurile publicitare de acum mai bine de jumătate de secol. Ştim cu toţii că tehnologia de azi poate mult mai mult de-atât"

Sau cum va fi receptată de un tânăr aflat în dileme existenţiale o frază precum : "dacă creierul s-a pregătit pentru acţiune cu ceva vreme înainte ca eu să decid să-mi mişc degetul, mai posed eu liber arbitru?" Până la urmă, hai să ne punem eul ăla atât de dispreţuit la contribuţie şi să pricepem că una e să te gâdile nenea doctorul pe creier şi alta e să iei nişte decizii serioase apropo de viaţa ta personală. Mă întreb însă ce decizie serioasă mai poate lua cineva care ia cu totul în serios volumul lui Ní¸rretranders, în afară de aceea de a începe să-şi înece bruma de conştiinţă rămasă în alcool sau droguri, sub pretextul eliberării sinelui.

Aş putea fi întrebat "Cum poate avea o carte de ştiinţă asemenea efecte? Ştiinţa e până la urmă chestia aia în care avem încredere deplină, în care lucrurile sunt foarte clare pentru toată lumea...". Sincer, mă îndoiesc că Iluzia utilizatorului este (doar) o carte de ştiinţă. Felul exaltat al autorului (de altfel, printr-o tradiţie istorică, cei mai mulţi dintre oamenii de ştiinţă sunt exaltaţi. Nu înţeleg de unde pretenţiile acestea de neutralitate, obiectivitate etc.) de a vorbi despre n lucruri mă face să cred că e mai degrabă vorba de o filozofie sau chiar o religie cu pretext ştiinţific. Altfel nu putem explica lecţia aiuritoare de ... teologie comparată între creştinism şi iudaism din capitolul dedicat întârzierii de jumătate de secundă. Sau lecţiile de ... arta actorului sau a dirijorului. Sau peroraţia uluitoare din ultimele pagini:

"" trebuie să avem curajul să spunem lucruri naive; să facem lucruri naive, constant şi paşnic de-a lungul deceniilor, pentru simplul motiv că noi credem că aceste lucruri sunt bune, că simţim că sunt bune şi suntem conştienţi că sunt bune". A spune asta (şi) în numele tehnocraţilor implicaţi în crearea şi implementarea de arme de distrugere, dispozitive de supraveghere şi control şi alte minuni ale lumii moderne, înseamnă ori ipocrizie criminală, ori stupiditate. Cea mai mare greşeală e să credem că suntem încă pe vremea când savanţii se plimbau prin grădini, le cădeau mere în cap, aveau revelaţii şi nu mai puteau de dragul omenirii.

Aceia dintre cititorii Iluziei utilizatorului care vor crede întrutotul cele scrise, vor rămâne cu impresia deprimantă că avem fiecare un sine numai al nostru, extraordinar, fascinant, care trebuie eliberat de tirania conştienţei, dar în acelaşi timp, care poate fi, şi chiar trebuie, măsurat ştiinţific - şi, de ce nu, coordonat tehnologic, de la butoanele cine ştie cărui Big Brother. În loc să caute să se dezvolte armonios, oamenii-utilizatori vor tinde spre schizofrenie în numele unei aşa-zise "sciziuni fundamentale dintre sine şi lume", iar în locul atât de blamatului eu-conştiinţă, vor pune sinele tehnologico-ştiinţific. Iar asta va fi cea mai desăvârşită dintre iluzii.

Scris de Silviu Man

*Probabil că nu este numai rezultatul unei greşeli de traducere folosirea termenului de "conştiinţă" (cu implicaţiile sale socio-morale) în locul celui de "conştienţă" (evident, un concept psihologic), mult mai adecvat profilului lucrării. Totuşi, confuzia acestora nu este sub nici o formă scuzabilă.

Categorie: | Autor: | Editura:



Citeste cele 36 COMENTARII si spune-ti parerea!

  1. Ce anume te face să crezi că este o confuzie de termeni?

    raspunde

  2. anca giura spune:

    O recenzie cu mise en scene, da. Buni maeştri aţi avut, d-le Man! Pe cât de densă, pe atât de logică, pe cât de umanistă, tot pe atât de tranşantă. Subscriu total la ideea că VEDEM CEEA CE VREM SÄ‚ VEDEM.

    raspunde

  3. C.SÎRB spune:

    TranÈ™antă, da, recenzia (sau să-i spunem ”rechizitoriu”?, căci, nu-i aÈ™a, psihologia È™i È™tiinÈ›a trebuie înfierate È™i stârpite din faÈ™ă). Noroc că recenzenÈ›ii nu-s atât de ”exaltaÈ›i” È™i lipsiÈ›i de ”obiectivitate” ca oamenii de È™tiinÈ›ă.

    Anca, sunt sigur că, ”alegând” între Lacan È™i autorul acestei recenzii, nu ai ezita o clipă ale cui opinii să le îmbrăÈ›iÈ™ezi cu mintea.

    raspunde

  4. Radu Iliescu spune:

    @ C. Sarb, ma intreb daca in comentariile tale exista rautate sau pur si simplu iti exhibi impudic lipsa abilitatilor de intelegere. De unde si pana unde ar trebui ca stiinta si psihologia sa fie starpite, si inca din fasa?

    Si de ce ar trebui anca giura sa aleaga intre Lacan si Silviu Man? N-ar fi mai bine sa aleaga intre tine si Immanuel Kant? Alegandu-l, fireste, pe Azorel, care face cat zece, ba chiar va intrece?

    raspunde

  5. argumentics spune:

    Să te mai prind că ne mai predici recenzia scurtă şi vorba minimizată că să vezi tu ceiuc de zărzărele ce-ţi servesc.

    Chestiuţă mică: îmi explică şi mie cineva cum e cu “publicată 100% online”-u’ ăsta care flutură sub mine aici? Cum devine aceasta?

    Subscriu total la ideea că LUCRURILE SUNT COMPLEXE!

    raspunde

  6. anca giura spune:

    Silviu, mă vezi ca pe D.M? Vai, mie! Spală-ţi creierul urgent! Sau e de bine? Hi, hi,hi… Sunt mult nmai tânără ca ea, n-am părul foarte lung, nici vocea groasă, bla,bla,bla…

    raspunde

  7. anca giura spune:

    Cristian, mi-a plăcut rău de tot chestia cu ceaiul de tei. Noi, ăştia filo şi anacronici, ştii cum am face cu prietenul în cauză? I-am citi puţin Esenin şi i-am spune că nu e singur. I-am da un vin bun şi l-am culca la noi acasă sub supraveghere. A doua zi l-am pune să se oxigeneze, să se uite cum creşte iarba şi cum înfloresc pomii…Şi dacă nu şi nu, atunci am da telefon unui bun psihoterapeut să-l programăm… “Mă omori cu zile!“:)

    raspunde

  8. Radu Iliescu spune:

    @ Cristian Sarb,

    chestia cu “psihologia È™i È™tiinÈ›a trebuie înfierate È™i stârpite din faÈ™ă” e ca si cum ai zice “vin la voi cu masina personala si cu ambreiajul”. E absolut riguros, nimeni nu te-ar putea contrazice, dar ce strigate de admiratie scot toti cei carora le-a cazut parul din urechi dupa ce te-au auzit.

    Banuiesc ca nu ti-a trecut prin minte niciodata ca ambreiajul nu merge fara restul masinii? La fel cum si psihologia e o stiinta.

    raspunde

  9. rathantaraa spune:

    The empirical “I” is nothing but a shifting tissue of images and tendencies; when the ego of an individual eight years old is compared with the ego of the same individual at eighty years of age one may well ask oneself where the real “I” is. And if a man could live for a thousand years, what would remain of that which was his “I” in the first century of his life? We live at the same time in the body, the head and the heart, so that we may sometimes ask ourselves where the genuine ‘I’ is situated; in fact, the ego, properly speaking, the empirical ‘I’, has its sensory seat in the brain, but it gravitates towards the body and tends to identify itself with it, while the heart is symbolically the seat of the Self, of which we may be conscious or ignorant, but which is our true existential, intellectual, and so universal center.

    Our form is the ego: it is this mysterious incapacity to be other than oneself, and at the same time the incapacity to be entirely oneself and not ‘other-than-Self’. But our Reality does not leave us the choice and obliges us to ‘become what we are’, or to remain what we are not.
    The ego is, empirically, a dream in which we ourselves dream ourselves; the contents of this dream, drawn from our surroundings, are at bottom only pretexts, for the ego desires only its own life: whatever we may dream, our dream is always only a symbol for the ego which wishes to affirm itself, a mirror that we hold before the ‘I’ and which reverberates its life in multiple fashions.
    This dream has become our second nature; it is woven of images and of tendencies, static and dynamic elements in innumerable combinations: the images come from outside and are integrated into our substance; the tendencies are our responses to the world around us; as we exteriorise ourselves, we create a world in the image of our dream, and the dream thus objectivised flows back upon us, and so on and on, until we are enclosed in a tissue, sometimes inextricable, of dreams exteriorised or materialised and of materialisations interiorised.
    The ego is like a watermill whose wheel, under the drive of a current — the world and life — turns and repeats itself untiringly, in a series of images always different and always similar. The world: it is as if the ‘conscious Substance’ which is the Self had fallen into a state which would split it up in many different ways and would inflict on it endless accidents and infirmities; and in fact, the ego is ignorance floundering in objective modes of ignorance, such as time and space.
    What is time, if not ignorance of what will be ‘after’, and what is space, if not ignorance of what escapes our sense? If we were ‘pure consciousness’ like the Self, we would be ‘always’ and ‘everywhere’; that is to say we would not be ‘I’, for that, in its empirical actuality, is entirely a creation of space and time. The ego is ignorance of what is ‘the other’; our whole existence is woven of ignorances; we are like the Self frozen, then hurled to earth and split into a thousand fragments; we observe the limits which surround us, and we conclude that we are fragments of consciousness and of being.
    Matter grips us like a kind of paralysis, it imposes on us the heaviness of a mineral, and exposes us to the miseries of impurity and of mortality; form shapes us according to such and such a model, it imposes on us such and such a mask and cuts us off from a whole to which we are none the less tied, though at death it lets us fall as a tree lets fall its fruit; finally, number is what repeats us — inside ourselves as also around us — and what, in repeating us, diversifies us, for two things can never be absolutely identical; number repeats form as if by magic, and form diversifies number and must thus create itself ever anew, because the All-Possibility is infinite and must manifest its infinitude.
    But the ego is not only multiple externally, in the diversity of souls, it is also divided within itself, in the diversity of tendencies and of thoughts, which is not the least of our miseries; for ‘strait is the gate’ and ‘a rich man shall hardly enter into the kingdom of heaven’. And since we are ‘not other’ than the Self, we are condemned to eternity.
    Eternity lies in wait for us, and that is why we must find again the Centre, that place where eternity is bliss. Hell is the reply to the periphery which makes itself the Centre, or to the multitude that usurps the glory of Unity; it is the reply of Reality to the ego wanting to be absolute, and condemned to be so without being able to be so… The Centre is the Self ‘freed’, or rather that which has never ceased to be free—eternally free.

    schuon

    raspunde

  10. Radu Iliescu spune:

    Mnoa, deci eu sunt fundamentalist. Admit. Dar stii tu oare, recenzor de aur ce te-a facut mami tau, ce iaste acela un fundamentalist? Nu? Hai ca te lamuresc.

    Un fundamentalist e un elefant asezat cuminte pe poponet si care incearca sa joace septic. Vreau sa spun ca daca ti se intampla sa contempli asa un spectacol, n-ai sa stii daca sa bati din palme ca la circ sau sa te cuprinda mila. Pentru ca elefantul, chiar daca izbuteste performanta de a sade pe poponet, la capitolul septic nu poate decat sa tanjeasca. Cu grinzile care-i tin loc de membre, cum ar putea, mititelul, sa bata foitzele?

    Totusi, imposibilul isi are locul sau in campul posibilitatilor. Da, da, si nu ma refer la spectacolul pe care-l da Base dansand pe ritm de manele. Se prea poate sa te intalnesti intr-o zi cu un elefant pe cat de bolovanos pe atat de subtil, incat sa poata juca septic, ba chiar sa te si bata la capitolul asta. Plus ca, la stat fundamentaliceste pe poponet, nu poti decat sa iei notite de la elefant, o, recenzor cu baza subreda!

    Mnoa, la ce adresa sa-ti trimit factura pentru lectia de fundamentalism de azi?

    raspunde

  11. Silviu, nu sunt de acord cu tine în ce priveşte separarea, după părerea mea, inutilă şi puţin paradoxală, între termeni. Dar nu contează acordul sau dezacordul, te priveşte ce crezi despre legătura dintre creier şi morală, însă atunci cînd faci o afirmaţie şi te bazezi pe preferinţa sau non-preferinţa ta pentru un set de idei, eviţi eroarea şi inducerea în eroare printr-un “în ce mă priveşte”, “după părerea mea”, “eu cred”. Bineînţeles, dacă doreşti să le eviţi. Acum, ar fi interesant de studiat evoluţia termenului, poate ne spune nu expert de ce e aşa specială conştiinţa pe româneşte :)

    Radu, există e-mail, foloseşte-l cu încredere, e deja jenant.

    raspunde

    • Silviu Man spune:

      “atunci cînd faci o afirmaţie şi te bazezi pe preferinţa sau non-preferinţa ta pentru un set de idei, eviţi eroarea şi inducerea în eroare printr-un “în ce mă priveşte”, “după părerea mea”, “eu cred”.”

      – Mihaela, te întreb sincer – se poate altfel? Nu cumva e deja subînţeles “eu cred”? Că doar nu crede Bill Gates în locul meu. Normal că “după părerea mea”, că doar nu am personalităţi multilateral dezvoltate. Ne împiedicăm de bălării. Purtatul ăsta cu mănuşi a devenit atât de frecvent încât mi se pare că lumea nu mai ştie să pipăie cu adevărat nişte sensuri.

      În plus, nu văd de ce ar trebui să existe experţi care să ne dea definiţia conştiinţei. Nu de alta, dar ar fi fundamentalişti din ăia care nu folosesc “eu cred că” la început de propoziţie :)

      raspunde

  12. Radu Iliescu spune:

    @ Mihaela Butnaru,

    ce zici tu e admirabil ca melodie si delicatete, insa fals. Termenii de “constienta” si “constiinta” n-au fost acum tricotati de Silviu Man, ca sa se semneze artistic pe puloveras. Fii antena aici:

    In DEX, constienta este definita ca: 1. luciditate, iar 2. faptul de a fi constient, stare caracterizata printr-o sensibilitate speciala, individuala, la stimuli interni si externi.

    Pe cand, tot in DEX, constiinta este 1. sentiment, intuitie pe care fiinta umana o are despre propria existenta; 2. faptul de a-si da seama; intelegere; 3. gandire, spirit; 4. sentiment al responsabilitatii morale fata de propria sa conduita.

    Dupa cum se poate observa, constienta este mai degraba o stare, in vreme ce constiinta este mai ales o facultate (abilitate). Deci seamana, dar nu rasare. Zau asa, inainte de a o da pe “parerea mea” vs. “parerea ta”, mai deschide si tu dictionarele. Insa faza cu paradoxul mi-a placut, avea un aer asa de duios-intelectualizant :-)

    Mersic mult pentru sugestia cu scrisul direct la andrisant. Mersic, dar nu, mersic. Mi-e teama sa nu se creeze relatii interumane, lucru care ar dauna grav obiectivitatii mele :-)

    raspunde

  13. Radu, serios? Ia te uită, şi eu vorbeam pe aici fără să ştiu despre ce vorbesc. Hm.
    Un manual de psihologie generală te lămureşte la ce m-am referit, strict, cînd am spus de paradox.

    raspunde

  14. rathantaraa spune:

    conştienţă – conştiinţă

    între ştienţă şi ştiinţă e entitificarea

    raspunde

  15. C.SÎRB spune:

    Mă gândeam şi eu de ce naiba nu “merg” psihologii la DEX, în loc să tot facă cercetări pe şobolani curentaţi, când “e de notorietate că” în DEX zac la bună păstrare toate definiţiile de care avem nevoie ca să ne iasă demonstraţiile aşa cum dorim.

    @M.B.> nu are sens să argumentezi ştiinţific unor (mult spus) interlocutori care ştiu ei mai bine cum devine treaba cu atare cărţi, chiar înainte a le citi. Ceva de genul: aha, uite o carte de psihologie, ia să o “desfiinţez”.

    raspunde

  16. Dragă Silviu, am tresărit curios când am văzut că există o recenzie pentru “Iluzia utilizatorului”, însă parcurgând rândurile de mai sus, am realizat dezamăgit c-ai ratat întâlnirea cu această carte.

    Aceastei cărţi – care ridică nişte probleme, fertilizează nişte întrebări – i s-a făcut o nedreptate cu această recenzie cruciată, situată chipurile de partea acelei baricade care ar fi o atenţionare pentru aceia “care vor crede întrutotul cele scrise”.

    Apreciez contururile şi fervoarea filtrului tău propriu, însă în acest caz nu şi-a dat adevărata sa valoare.

    raspunde

    • Silviu Man spune:

      Adrian, nu fi dezamăgit, te rog din suflet, nu e nici un bai că am ratat eu întâlnirea cu cartea. Eu mă bucur în fiecare zi că ratez întâlniri. Cu câinii vagabonzi, cu escrocii din cartier, cu demenţii care circulă peste limita legală prin oraş.

      Din cauza reflexelor ăstora de hăituit,prefer să nu înghit nada oricărei cărţi care “care ridică nişte probleme, fertilizează nişte întrebări”. Toate îşi propun şi fac, mai mult sau mai puţin reuşit, asta. Mă interesează ce fel de probleme, ce fel de întrebări, mă interesează cum se pun aceste probleme. Alfel, vorba aceea cu frecţia la picior de lemn… Cu mai multe sau mai puţine note de subsol.

      raspunde

  17. Ilie catrinoiu spune:

    Am sa citesc cartea. E interesant de observat pe ea ereziile. Ma rog, pana la urma polemica asupra unei astfel de carti se da intre conceptia personalist-crestina asupra omului si conceptia determinist-materialista asupra androidului.

    Sunt sigur ca, pe langa aberatiile pe care le debiteaza din intrebari stupide si fara sens spune si lucruri bune.

    Despre Augustin spune ceva? Ca e interesant daca se baga in teologie individul. Ca Augustin spune exact contrariul a ceea ce sustine savantul asta.

    Genul asta de savant care pune intrebari precum – “Cum poţi şti dacă atunci când mănânci îngheţată de ciocolată, împreună cu un prieten, ea are acelaşi gust pentru el ca şi pentru tine? […] Cum poţi şti măcar că prietenul tău e conştient? Cum poţi şti că mai există şi alte minţi în afară de a ta?” – sufera de plictiseala cronica.

    Vorba lui Dostoievski: lumea risca sa piara nu din cauza razboaielor, ci din plictiseala – diavolul iese dintr-un cascat mare cat lumea.

    raspunde

  18. Jen spune:

    imi plac oamenii care citesc ca sa gaseasca ereziile din carti :D distractie placuta!

    raspunde

  19. ilie catrinoiu spune:

    si mie imi plac oamenii care in loc sa citeasca mai bine s-ar ocupa de alte lucruri mai pe masura lor. in insasi ideea de liberalizare si democratizare a cartii / a invatamantului (invatamant obligatoriu / invatamant de stat) se afla atacul terorist impotriva spiritului.

    http://culianu.wordpress.com/2010/03/01/despre-comunism-experimentul-pitesti/

    Intre Turcanu si tipul asta de savant care spune ca “gândirea este un eveniment material care are loc în corp şi care seamănă în toate privinţele cu alte activităţi corporale precum mişcarea” nu e nicio diferenta.

    raspunde

    • Jen spune:

      imi pare rau, dar in afara unei asemenea demonstratii de inteligenta nu mai pot comenta nimic. ma retrag gratios sa meditez la felul in care libertatea ataca spiritul, poate ajung la vreo revelatie.

      raspunde

      • Radu Iliescu spune:

        Jen, fii putin antena, sa stii ca si tu poti pricepe :-)

        Banuiesc ca ti se pare absurda teza sustinuta de nenea Ilie, nu-i asa?, cum sa atace cartile si invatamantul de masa (amorfa) spiritul? Cand toata lumea stie, inclusiv tu, draga Jen, ca spiritul este o fiara care se hraneste cand cu carti, cand cu profesori aflati de gat cu elevii, precum mielul si lupul post-apocaliptici.

        Realitatea e ca absolut orice poate fi explicat, daca se intrunesc conditiile din povestea aceea cu iz pedagogic: adica un filosof dispus s-o faca, un imparat dispus sa finanteze exercitiul, si un magar pe care sa se poata experimenta pariul. Parerea mea, draga Jen, este ca acum le avem pe toate.

        Stim noi care este rolul lipidelor in organism? Da, stim. Constituie un pretios aport energetic. Foarte util cand mergi prin ger dimineata sa cumperi lapte, daca n-ai lipide cazi in drum si salutare, te descopera prekinii abia la primavara, cand rasari ca ghioceii de sub zapada.

        Acuma, ce se intampla daca ne lacomim la lipidele salvatoare? E simplu. Creste intai talia, apoi se lasa in abdomen, creste si perimetrul poponetzei, mainile amintesc de niste painisoare, picioarele de niste butoiase, degetele de niste cartuse. Vezi imaginea?

        Asa e si cu cartile. Spiritul se obezifica. Nietzsche spunea ca se impute, lucru in privinta caruia nu ma pronunt, pentru ca mi-am pierdut mirosul in urma cu cativa ani, pe cand fumam 3 pachete de tigari pe zi. Mi-a ajutat Dumnezeu! Iti dai seama ce-ar fi fost sa constat si eu, eventual si in cele din urma, ca spiritul s-a imputit? :-)

        raspunde

  20. Mihai Voicu spune:

    Daca promiteti ca nu dati cu pietre prea mari, iata si “recenzia” mea, ceva intre review si digest.

    Pe scrut:

    Iluzia utilizatorului este o carte despre functionarea si limitele constiintei umane. Termenul de constiinta se refera la acea parte psihica capabila de decizie constienta, gandire constienta. Termenul are aici legatura doar ca proces cu “constiinta morala”.

    Limitarile sunt atat constructive, determinate prin experimente (0.5 secunde intarziere a perceptiei constiente, 16biti/secunda capacitate de procesare) dar si informationale (incompletitudinea sistemelor formale).

    Este o carte erudita care aduce argumente din foarte multe domenii, inclusiv fizica, psihologie, medicina, teoria informatiei, matematica. Cartea ramane totusi suficient de usor de citit, fiind pigmentata cu diferite intamplari antologice din istoria stiintei.

    Pe larg:

    http://mihvoi.blogspot.com/2010/09/review-carte-iluzia-utilizatorului.html

    raspunde

  21. Alexandra spune:

    Total de acord cu review-ul. In afara de asta, cartea are mai multe probleme de traducere. Plimbarea prin stiinta nu aduce decat argumente din cateva puncte de vedere unei teze multi-fatetate. Prea usor a tras linia intre alb si negru si a ignorat ce e gri, dar si ce e practic, moral, explicabil prin psihologie, nu prin fizica…

    raspunde

Lasa un comentariu

Adresa de email nu va fi facuta publica. Campurile obligatorii sunt marcate cu *

Citeste si

Copyright ©2011 Bookblog.ro