À lire les études sur la mise en abyme, on est rapidement troublé de constater à quel point celle-ci trouble. Il est en effet étonnant de voir comment tous ceux qui se sont penchés sur cette configuration réflexive ont évoqué, à un moment ou à un autre de leur réflexion le « trouble », sinon le « vertige » ou l' « inquiétude », causé par ces oeuvres… sans pourtant offrir l'ombre d'une explication quant à sa provenance. Nous avons, pour notre part, été surpris de retrouver continuellement sous la plume de ces auteurs, des expressions qui, malgré la rigueur scientifique dont ils faisaient preuve, trahissaient une certaine émotivité, voire un certain inconfort, devant le défi que lançaient parfois à l'entendement les divers cas de figure étudiés.

Pour n'offrir qu'une vague idée de ce malaise, il suffit de lire certains des auteurs qui se sont le plus sérieusement intéressés à la question. Lucien Dällenbach – l'auteur même de l'incontournable Récit spéculaire (1977) – lançait que certaines mises en abyme parvenaient à (nous soul.) « susciter le vertige » (1977 : 146) ou à nous faire « perdre pied » (1977 : 145), Michel Leiris se disait lui-même « saisi d'une espèce de vertige » devant sa boîte de cacao [1], Bernard Leconte avouait aussi qu'il était saisi – quand il se trouvait devant la représentation «  d'un tableau dans le tableau ou de tout autre dispositif réflexif » – d'« un trouble, presque [d']un tremblement intellectuel » (2004 : 26), Christian Metz avouait à son tour que, devant la mise en abyme offerte pas le 8½ de Fellini le spectateur pouvait être « pris d'un légitime vertige » (1968 : 226), Dominique Blüher mentionnait quant à elle la « force vertigineuse » des films « pleinement réflexif[s] et spéculaire[s] » (1996 : 16-17 et 291), Timothy Unwin avançait pareillement qu'un récit spéculaire avait le « pouvoir d'inquiéter et de troubler » (2000 : 177) et d'autres enfin, comme Sébastien Févry, soutenaient que l'auto-enchâssement était l' « une des figures spéculaires les plus troublantes » (2000 : 75).

Il nous intéressait donc, en regard de cette confusion, de tenter une théorisation de ce trouble, d'en sonder la nature et la provenance, d'en démonter les mécanismes et les rouages. C'est ce que nous tenterons modestement de faire ici à partir de l'un des « types » seulement – la mise en abyme « simple » – recensé par Lucien Dällenbach dans son Essai sur la mise en abyme (1977) [2] et ce, en prenant le contre-pied d'une des hypothèses qu'il avait suggérée au passage quelque vingt ans plus tard dans l'article « Mise en abyme » qu'il fit paraître dans le Dictionnaire des genres et des notions littéraires (1997). L'auteur s'y demandait : « la mise en abyme n'a-t-elle pas pour effet de brouiller tout effet « réaliste », de provoquer des ratés dans la représentation et, ce faisant, de saper l'illusion référentielle du lecteur? » (p. 13, l'auteur soul). À cette question, nous serions tenté de répondre par un « oui mais… dans certains cas seulement ».

Dans cette citation, Dällenbach sous-entend que les configurations spéculaires seraient troublantes parce qu'elles briseraient l' « illusion référentielle » – en se désignant comme discours et en nous rappelant notre position de spectateur ; ce que nous avions pris plaisir à oublier – bref, parce qu'elles nous empêcheraient de poursuivre notre « lecture fictionnalisante ». Or, si cela est vrai pour certains types de mise en abyme – notamment les types « infini » et « aporétique » – il n'en sera pas toujours de même pour les autres – notamment pour celles de type « simples. Nous croyons quant à nous que, la mise en abyme pourra être troublante sans toutefois briser l'illusion référentielle. Nous pensons même que ce sera quelquefois justement parce que certaines œuvres spéculaires créeront des « effets réalistes », s'ingénieront à produire de cohérentes « représentations » et permettront l' « illusion référentielle », qu'elles seront troublantes. Nous montrerons ici, en multipliant les cas de figures, que la mise en abyme simple, pourra, dans quelques cas, non seulement être troublante, mais l'être justement parce qu'elle nous invitera – contrairement à ce que laissait entendre le théoricien – à participer à l'histoire, voire à nous identifier aux personnages.

Les éléments qui nous permettraient d'étoffer notre hypothèse se trouvent d'ailleurs dans le schéma privilégié par Dällenbach lui-même au début de son étude – le schéma jakobsonien –, schéma dont il n'a cependant pas, selon nous, tiré tout le profit. Certes, dès les premières pages consacrées à l'établissement de sa typologie, Dällenbach maintiendra que le « modèle jakobsonien […] paraît mieux habilit[é] à rendre compte de la variété des dédoublements » précédemment énumérés (1977 : 61, n. 2). Toutefois, bien qu'il s'intéressera plus spécifiquement par la suite à la « « présentification » diégétique du producteur ou du récepteur du récit » et à l' « attitude des protagonistes en regard de l'échange » (1977 : 100, nous soul.), il ne profitera pas de l'occasion pour établir les nuances qui nous auraient permis, non seulement d'effectuer quelques différences entre des cas de figure que, autrement, on aurait tendance à rapprocher, mais de tenter une première théorisation des différents troubles causés par ceux-ci. C'est donc à une sorte de typologie du trouble spéculaire que nous nous concentrerons maintenant.

* * *

Une œuvre dans une œuvre entretient des relations de similitude avec l'œuvre qui la contient. Qu'y a-t-il de « troublant » – voire d'« effrayant » (« frightening ») – dans cette situation? Et qui est troublé? Le spectateur qui se retrouve devant l'œuvre emboîtante? Le personnage qui se retrouve devant l'œuvre emboîtée? Ou le spectateur de l'œuvre emboîtante qui se retrouve devant ce personnage qui se retrouve devant l'œuvre emboîté? Et pour quelles raisons celui-là serait-il troublé? Parce qu'on lui rappelle brusquement qu'il est devant une œuvre, qu'il est ramené à sa position de spectateur et que tout cela n'est qu'« illusion »? Ou, au contraire, parce qu'on s'ingénie à le lui faire oublier, qu'on lui permet de participer et ainsi de s'identifier aux personnages? Autrement dit, qu'est-ce qui fait que, malgré qu'elles pussent toutes sans problème se côtoyer dans la même case, les mises en abyme simples, produisent des effets si différents l'une de l'autre? Pourquoi certaines de ces mises en abyme troublent-elles les personnages et d'autres non? Pourquoi d'autres nous troublent-elles sans pourtant troubler les personnages? Pourquoi d'autres encore, bien que troublant les personnages, n'arrivent cependant pas à nous troubler et que d'autres enfin ne nous troublent que parce qu'elles troublent les personnages?

Certes, on pourrait arguer, et avec raison, que le trouble causé par la mise en abyme simple dépend du degré de similitude – au niveau de l' « histoire » du moins – entre l'œuvre emboîtante et l'œuvre emboîtée. Mais ce ne serait là qu'un jugement hâtif qui nous empêcherait de prendre en considération un certain nombre de nuances importantes. Il nous semble évident, d'abord, qu'une œuvre en abyme n'aura pas le même effet selon le destinataire qu'elle visera principalement, c'est-à-dire, selon qu'elle sera directement adressée à un personnage ou qu'elle sera dirigée, pour ainsi dire, plus spécifiquement à notre attention [3]. Il nous semble également incontestable, ensuite, qu'une œuvre en abyme n'aura pas le même effet selon que le personnage à qui on l'adressera ne sera qu'un simple récepteur ou sera, de plus, son producteur (ou, à tous le moins, selon qu'il connaisse ou ignore tout du contexte dans lequel l'œuvre a été produite) Il nous semble aussi manifeste, enfin, que l'œuvre en abyme n'aura pas le même effet sur nous selon que nous en saurons plus, autant ou moins que le récepteur diégétique quant à la provenance de cette œuvre. On pourra alors parler, après avoir évoqué les degrés de similitude entre l'œuvre emboîtante et l'œuvre emboîtée, du degré de trouble qui gagnera les protagonistes du récit et du degré d'identification du spectateur aux personnages.

Nous verrons que, dans la plupart des cas, le trouble, s'il n'est pas causé par l'œuvre même, sera causé par l'homologie des situations entre le spectateur et le personnage. C'est cette homologie des situations qui permettra d'ailleurs, en quelque sorte, plutôt que de briser l'illusion, de la créer, de laisser libre cours à l'identification et d'inviter le spectateur à réagir à la situation que vivra le personnage un peu comme il réagirait à une situation semblable si celle-ci lui arrivait. Il va sans dire que nous ne pourrions être troublé par une œuvre reprenant des moments de notre vie que dans la mesure où il nous serait donné de la percevoir, que nous ne serions pas troublé par cette œuvre si nous en étions nous même le producteur et que nous le serions probablement un peu plus si nous la rencontrions sur notre route, un peu par hasard, sans même en connaître le producteur. Ce sont maintenant ces vues qu'ils nous faut étoffer. Mais nous proposons, avant d'aller plus loin, le tableau suivant, lequel recense, dans l'ordre, les questions auxquelles, afin de vérifier notre hypothèse, il nous faudra répondre scrupuleusement. On comprendra que, dès qu'une réponse se retrouvera dans la case de droite, elle sera, pour ainsi rejetée, tandis que continueront d'être questionnées les réponses qui demeureront dans la case de gauche.

Il semble évident que le film des Marx Brothers que regarde Mickey Sachs à la fin de Hannah and Her Sisters (fig. 2) n'entretient que des liens très lâches avec le film même et avec la vie du personnage. Certes, celui-ci s'ingéniera à faire des liens entre la vie de ceux-là et la sienne propre, mais ces liens n'auront rien de très étroits, ni de très révélateurs. Il en est tout autrement cependant des liens qu'entretiennent les films emboîtés que regarde Cliff Stern au cours de Crime and Misdemeanors (fig. 1). À trois reprises au moins, les films dans le film reprennent avec une précision étonnante les mésaventures de Judah Rosenthal (Martin Landau) lequel demande à son frère (Jerry Orbach), criminel de profession, de le débarrasser de sa maîtresse (fig. 3). La séquence de film qui suit cette requête illustre la même situation tout en usant des mêmes répliques (fig. 4) [6]. Aussi, il va de soi que les films emboîtés dans Crime and Misdemeanors, par le degré de similitude beaucoup plus grand qu'ils entretiennent avec le film emboîté, seront beaucoup plus susceptibles de provoquer un trouble.

  Fig. 3                                                                 Fig. 4


Un film dans le film (fig. 4) dont les relations de similitude avec le film même (fig. 3) sont manifestes et, du coup, propice à déclencher le trouble. Mais le trouble de qui?

Il en sera de même des autres films auxquels nous nous intéresserons maintenant : Airplaine!, 8 Femmes, Week-end, Saboteur, Fright Night, Being John Malkovich, Annie Hall, Pee-wee's Big Adventure, House by the River, Twelve Monkeys, Vertigo, I, Madman, Lost Highway, Caché de même que diverses adaptations récentes de Hamlet. Les œuvres (films, pièces, tableaux, etc.) qu'ils mettront en abyme entretiendront toutes un fort degré de similitude avec l'histoire du film même. Dès lors, il est facile de voir la place qu'occuperaient ces œuvres dans notre tableau (c'est-à-dire qu'il est aisément concevable de faire le départ entre les œuvres que nous rejetterons de celles que nous conserverons pour la suite de notre enquête) :

Ces degrés de similitudes entre œuvres emboîtantes et œuvres emboîtées sont, comme nous l'avons dit, une sorte de condition préalable, de critère de base à partir duquel on pourra poser les questions subséquentes. Car ce critère, nous l'avons aussi dit, n'est pas suffisant. Après avoir mis de côté ces œuvres emboîtées qui n'entretiennent qu'un lien très lâche avec l'œuvre emboîtante, et avoir conservé ces œuvres emboîtées qui entretiennent un lien plus étroit, il nous faut tenter de voir à qui sera demandé de faire ces liens, de bien établir qui sera le destinataire de l' « invitation à la comparaison » (Blüher). En d'autres termes, il nous faut comprendre pourquoi Cliff, bien qu'il eut beaucoup plus de raisons que Mickey, n'a pas été troublé par les comparaisons qu'il pouvait faire entre l'histoire du film qu'il regardait et l'histoire du film même, et pourquoi, dans ce cas-ci, seul le spectateur pouvait l'être. Une fois le fort degré de similitude établi, il nous faut tenter de voir qui est invité à faire les comparaisons et, conséquemment, à être troublé.

Destinataire

Revenons à notre point de comparaison. Pourquoi, alors que le roi (Hamlet) et Cliff (Crime and Misdemanors) se retrouvent tous les deux devant des œuvres qui, non seulement entretiennent de fortes relations de similitudes avec l'œuvre même, mais qui révèlent de surcroît de répréhensibles complots (et donc, de fâcheux secrets), pourquoi donc, le premier sort-il apeuré de la salle alors que le second trouve tout de même à plaisanter? Probablement parce que, contrairement au roi, Cliff ne peut lui-même faire les liens qui s'imposent. En effet, celui-ci n'est aucunement au courant du crime que fomente, parallèlement, Judah. Aussi, semble-t-il qu'il y ait des configurations dont la seule personne qui pourra faire des liens (et s'étonner de leur ressemblance) sera le destinataire, non du film emboîté, maisdu film emboîtant. Dès lors, et parce que cette mise en abyme s'adresse plus directement à lui et lui rappelle sa position de spectateur, il y a fort à parier que son attention se déplacera, pour un temps, de l'histoire du film au film même (la réplique de Cliff – « Tout cela n'arrive que dans les films. » – nous incite du reste à le penser). Aussi, on aura compris que si le spectateur est troublé, ce sera, non pas pour avoir été attiré par l'histoire, mais pour en avoir été détourné au profit du discours. Le trouble causé sera alors semblable à ces troubles causés par les configurations autoréflexives.
 
On peut alors plus facilement comprendre ce qui différencie certains des cas de figure qui sont cependant tous à classer sous l'étiquette « mise en abyme simple ». En effet, si l'on compare, de ce point de vue, les tableaux de Airplaine! (J. Abrahams, D. Zucker & J. Zucker, 1980, fig. 5), de 8 Femmes (F. Ozon, 2001, fig. 6) et de Week-end (J.-L. Godard, 1967, fig. 7),  on remarquera qu'ils ne s'adressent à aucun personnage. Aussi est-ce celui qui regarde le film même qui est directement « invité à faire des comparaisons ». Le destinataire de cette invitation est ainsi rappelé à sa position de spectateur, son attention est portée sur le discours, et l' « illusion référentielle » est, pour le temps que dure ce détournement d'attention, rompue.
 
Fig. 5                                       Fig. 6                                           Fig. 7


Trois tableaux qui entretiennent des liens de similitudes manifestes avec le contexte dans lequel ils apparaissent et qui, parce que les liens ne sont pas fait (ou ne peuvent être fait) par aucun personnage, s'adressent aux spectateurs.

À la fin de Saboteur (A. Hitchcock, 1942), quand Frank Frye (Norman Lloyd) entre dans un cinéma, poursuivit par des policiers armés, il nous est permis de voir, sur l'écran, se dérouler une histoire semblable. On tire un coup de feu depuis l'écran (fig. 8) puis, un autre, devant l'écran (fig. 9). Cependant, aucun spectateur diégétique n'est au courant de la chasse à l'homme qui se déroule autour de lui ni ne perçoit ce second coup de feu. l' « invitation à la comparaison » entre l'œuvre emboîtée et l'œuvre emboîtante est donc directement adressée au spectateur.

      Fig. 8                                                           Fig. 9


Un film dans le film (fig. 9) qui entretient des liens de similitudes manifestes avec le film même (fig. 8) et qui, parce qu'ils ne sont fait par aucun personnage, s'adressent aux spectateurs.

Au début de Fright Night (T. Holland, 1985), le jeune Charley Brewster (William Ragsdale) aperçoit, par la fenêtre de sa chambre, deux hommes qui transportent un cercueil (fig. 10) tandis que sa copine Amy (Amanda Bearse), assise devant le téléviseur, regarde une émission qui présente, au même moment, des hommes transportant un cercueil (fig. 11). Or, le jeune homme ne voit pas ce qui se passe à la télévision, sa copine ne voit pas ce qui se passe par la fenêtre. Comme ils ne peuvent faire les liens, il revient, encore une fois, au spectateur de les faire.

   Fig. 10                                                              Fig. 11


Une émission de télévision (fig. 11) qui entretient des liens de similitudes manifestes avec l'histoire du film même (fig. 10) et qui, parce qu'ils ne sont fait par les personnage, s'adressent aux spectateurs.

Being John Malkovich (S. Jonze, 1999), s'ouvre sur un spectacle de danse effectué par un pantin de bois dont on voit ici le final (fig. 12). Beaucoup plus tard dans le film, John Malkovich (lui-même) entreprend de présenter à sa dernière conquête, Maxine (Catherine Keener), un numéro de danse qu'il a mis en scène, lequel est la reproduction exacte du spectacle d'introduction (fig. 13). Or, comme Maxine n'a jamais assisté à cette première représentation, l'invitation à la comparaison nous est donc adressée et notre attention est donc portée, le temps d'une danse, sur le film même.

 Fig. 12                                                            Fig. 13


Une danse (fig. 13) qui renvoie explicitement à la danse mise « en abyme » effectuée au début du film (fig. 12) mais dont seul le spectateur a été témoin et à qui, conséquemment, l' « invitation à la comparaison » est adressée.

Toutefois, un autre moment du film (fig. 14) est également mis « en abyme ». En effet, une autre pièce de marionnettes (fig. 15) mettant en scène – et avec de nettes ressemblances – les amours déçues de Craig (John Cusack) pour Maxine, est aussi présentée dans le film. Mais cette fois, l' « invitation à la comparaison » est (aussi) lancée à un personnage. En effet, Craig est témoin de cette pièce et est, mieux que quiconque, à même de faire les liens qui s'imposent. Pourquoi demeure-t-il néanmoins impassible?
 
Fig. 14                                               Fig. 15


Une pièce de marionnettes (fig. 15) qui renvoie explicitement à l'histoire du film (fig. 14) et dont les similitudes peuvent ici être perçues par un personnage (Craig) qui assiste à la représentation. Pourquoi n'e réagit-il pas à ces ressemblances pourtant manifestes et, sommes toutes, troublantes?

La réponse à cette question nous oblige à établir une autre précision. Cependant, avant d'aller plus loin, nous suggérons de reprendre notre tableau où nous l'avons laissé afin de donner la réponse à la seconde question que nous avons posée, laquelle nous permettrait de faire, de nouveau, le départ entre les films que nous pourrons mettre de coté et les films que nous devrons continuer à questionner. Ainsi, après avoir retenu et étudié les films qui entretenaient un fort degré de similitude avec l'œuvre emboîtée, il nous a été possible, afin d'éclaircir la nature du trouble qu'ils peuvent susciter, de faire une distinction entre les films qui adressent leur invitation au spectateur et ceux qui l'adressent, d'abord, au personnage.

Aussi, s'il y a un trouble causé par les films qui entretiennent un fort degré de similitude avec l'œuvre qu'ils mettent en abyme et dont l' « invitation à la comparaison » est adressée au spectateur, ce sera essentiellement parce qu'ils auront attiré notre attention sur l'œuvre même, parce qu'ils se seront désigné comme discours et, le temps qu'aura duré de la réflexion, brouillé tout « effet réaliste », provoqué des « ratés dans la représentation » et sapé l' « illusion référentielle ». Mais il n'en sera pas de même des œuvres que nous questionnerons maintenant. Nous verrons, en effet, que le trouble (s'il y en a) – car nous verrons que, malgré un degré de similitude évident et malgré une invitation adressée au personnage, il se pourra qu'une œuvre ne soit pas, ni pour eux, ni pour nous, troublante – nous verrons donc que le trouble qu'elles causeront sera maintenant provoqué, non pas parce qu'elles auront brisée l'illusion référentielle mais, au contraire, parce qu'elles l'auront permise. Aussi devrons-nous maintenant admettre que c'est en nous demandant sans cesse « Et si a m'arrivait, à moi? » que nous pourrons mesurer, après le degré de similitude, le degré de trouble que pourront causer ces similitudes.

Du producteur au récepteur
Revenons, encore une fois, à l'exemple qui nous sert de point d'ancrage. Pourquoi, alors que le roi (Hamlet) et Craig (Being John Malkovich) sont les principaux destinataires des pièces qui pourtant reprennent, dans leurs moindres détails, des pans de l'histoire emboîtante – et plus spécifiquement de leur vie –, pourquoi donc le premier sort-il brusquement de la salle, alors que le second demeure-t-il là, sans réagir (fig. 17)? Parce que celui-ci, contrairement au roi, est aussi le producteur de la pièce en abyme (fig. 16). On aura cette fois compris que l'œuvre dans l'œuvre qui entretiendra un fort degré de similitude avec l'œuvre même et dont le principal destinataire sera un personnage, ne nous troublera pas à cause d'un bris d'illusion. Elle nous permettra, au contraire, parce qu'elle ne se désignera pas explicitement (ou ostensiblement) comme discours, de nous identifier – si toujours la structure de l'œuvre le permet et que le spectateur est disposé à l'accepter – au personnage. Cependant, comme le trouble de ce personnage (fictivement) producteur de l'œuvre en abyme sera, pour ainsi dire, nul, il en sera ainsi du nôtre. Aussi est-ce maintenant à la réaction des personnages que nous nous intéresserons. Nous verrons donc maintenant comment celle-ci n'aura rien de particulièrement troublée.
   
Fig. 16                                                  Fig. 17


Craig (fig. 17) ne peut être troublé, malgré les similitudes étroites, par la pièce mise « en abyme » (fig. 16), pour la simple raison qu'il en est lui-même le producteur.

Dans Annie Hall (Woody Allen, 1977), Alvy Signer (Woody Allen) assiste, lui aussi, à une pièce reprenant textuellement un moment crucial de sa propre vie (fig. 18). À la fin du film, nous sommes témoins de l'ultime rencontre d'Alvy et d'Annie (Diane Keaton), laquelle décide de rompre leur relation. Peu de temps après, il nous est donné de voir deux jeunes acteurs, reprenant textuellement l'échange (fig. 19). On comprend alors qu'Alvy, qui assiste à la pièce (en fait, une répétition), demeure pitoyablement enfoncé dans son siège, pour la simple et bonne raison qu'il ne peut être troublé (et nous non plus) par un texte qu'il a lui-même écrit et qui s'inspire directement de sa vie (fig. 21) [6].
 
Fig. 18                                                            Fig. 19


Alvy (fig. 18) ne peut être troublé, malgré les similitudes étroites, par la pièce mise « en abyme » (fig. 19) pour la simple raison qu'il en est lui-même le producteur.

Pee-wee's Big Adventure (T. Burton, 1985) nous offre un autre exemple allant dans le même sens. Alors qu'il est dans un ciné-parc et qu'il assiste à un film inspiré de sa propre vie (fig. 21), Pee-wee (Paul Reubens), plutôt que troublé par ce qu'il voit, saute de joie (fig. 20). Rien n'est troublant dans les ressemblances qu'il peut faire, tout simplement parce qu'il en est aussi, en quelque sorte, le producteur. Certes, Pee-wee n'est pas l'auteur même du film dans le film, mais il a participé à son élaboration en cédant les droits de son récit à une importante maison de production.

   Fig. 20                                                          Fig. 21


Pee-wee (fig. 20) ne peut être troublé, malgré les similitudes étroites, par le film mis « en abyme « (fig. 21) pour la simple et bonne raison qu'il en est lui-même (du moins, en partie) le producteur.

Ainsi, on remarque que la ressemblance des œuvres principalement adressées aux personnages n'est pas encore un critère suffisant pour déterminer le trouble dont ceux-ci peuvent être victimes. Il nous faut encore savoir si ceux-ci ne sont que de simples récepteurs ou s'ils sont aussi les producteurs de cette œuvre. Cependant, on a vu que ce type de configuration, plutôt que de causer des bris dans l'illusion, cherche plutôt à l'entretenir. Ces films, qui nous conduisent, autant que faire se peut, à nous identifier aux personnages, ne parviennent pas à nous troubler, tout simplement parce que ces personnages n'ont eux-mêmes aucune raison de l'être. Comme ces personnages, nous n'aurions nous-mêmes aucune raison d'être troublés par des œuvres reprenant un pan de notre vie si nous en avions été aussi les producteurs.

Un dernier exemple, tiré de House by the River (Fr. Lang, 1950) nous permettra de bien saisir l'importance de ce critère et de faire la transition avec le denier critère que nous allons bientôt suggérer. Le film raconte l'histoire d'un écrivain, Stephen Byrne (Louis Hayward), qui, profitant de l'absence de sa femme, Marjorie (Jane Wyatt), tue accidentellement sa bonne (Dorothy Patrick), laquelle refusait ses avances. Plutôt que de courir à la police, il décide, avec l'aide de son frère (Lee Bowman), de jeter le corps dans la rivière. Sous les conseils d'une de ses lectrices – « A writer must write only about things he knows. If he puts down truthfully the things he's actually experience […], he's bound to be berry successful. » –, il entreprend d'écrire l'histoire qu'il vient de vivre (et à laquelle nous avons assisté). On ne saurait contester qu'il y a ici une mise en abyme simple : une œuvre, ici un manuscrit intitulé Death on the River (fig. 23), dans une œuvre, ici le film intitulé House by the River (fig. 22), reprend une partie de l'histoire de cette œuvre.
 
Fig. 22                                                Fig. 23


Une œuvre emboîté (fig. 23) qui réfléchit un pan important de l'histoire de l'œuvre emboîtante (fig. 22). Mais qui troublera-t-elle?

Or, si Stephen est à même de faire des liens, il va sans dire qu'il n'est pas troublé par ce que révèle le manuscrit dont il est l'auteur (fig. 25). Il en ira cependant tout autrement de sa femme qui, à la toute fin, découvrira le manuscrit, lequel lui révélera ce troublant secret ; le trouble peut alors se lire sur son visage (fig. 26).

 Fig. 25                                                           Fig. 26


Un personnage (fig. 25) ne peut être troublé par les ressemblances entre sa vie et l'œuvre mise « en abyme » dont il est le producteur. Il en ira tout autrement d'un personnage qui sera le simple récepteur de cette œuvre (fig. 26).

Cette distinction importante entre personnage producteur et personnage récepteur nous oblige, avant de continuer, à répondre à la troisième question que nous avions posée et à revenir encore une fois à notre tableau. Ainsi, après avoir retenu et étudié les films dont l'œuvre emboîtée – qui entretenait un fort degré de similitude avec l'histoire (ou la vie des personnages) qu'ils mettaient en scène – s'adressaient d'abord au personnage, il nous a paru essentiel, pour tenter de comprendre la nature du trouble que pouvait causer la mise en abyme, de mettre de côté les œuvres dont le personnage était aussi le producteur en cela que le trouble était, dans ces cas précis, et pour eux, et pour nous, nul.

Cette troisième étape nous aura permis de comprendre que le personnage qui reçoit une œuvre dont il n'est pas le producteur a de forte chance d'être troublé par cette œuvre, pour autant que ce qu'il reçoit entretienne d'évidents degrés de similitude (voire, révèle quelque secret) avec l'histoire du film (voire, avec sa propre vie). Mais il semble, encore une fois, possible de nuancer ce jugement. En effet, si ce personnage récepteur est troublé, il nous reste à savoir si ce trouble sera aussi le nôtre. En d'autres termes, après avoir admis la pertinence des degrés de similitude, et avoir ouvert la porte aux degrés de troubles qui pouvaient s'emparer du personnage (certains seront troublés, d'autres non), il nous faut maintenant parler de notre degré d'identification à ce personnage. Serons-nous amenés à participer à son trouble ou plus simplement à y assister? Pour répondre à cette dernière question, il nous faut étudier de plus près ce qui demeure un des moyens les plus sûrs pour lancer l'identification : l'homologie des situations. En d'autres termes, il nous faudra maintenant étudier, non seulement la relation entre le trouble que vit le personnage et le trouble qui nous gagnerait dans la même situation, mais surtout, la relation entre ce que le personnage sait et ce que nous savons sur les circonstances de la production de l'œuvre emboîtée.

Homologie des situations
Revenons, une dernière fois, à l'exemple qui nous a servi, non seulement d'exergue, mais de fil conducteur. Pourquoi, alors que The Mousetrap (la pièce que regarde le roi dans Hamlet) et Death on the River (le manuscrit que lit Marjorie dans House by the River ) révèlent tous deux les circonstances sordides dans lesquelles se sont produits des meurtres, le trouble du roi semble-t-il plus vif que celui de Marjorie? Est-ce parce que le meurtre raconté dans Death by the River n'était pas celui de la lectrice (mais de son mari) et que celui mis en scène dans The Mousetrap était bel et bien celui du roi? Est-ce aussi parce que si le premier secret n'était révélé qu'à une seule personne, le second l'était à la face de la cour? Est-ce enfin parce que si Marjorie connaît l'auteur du manuscrit, le roi n'a aucune idée de qui – qui le connaît manifestement très bien – a écrit la pièce? Il faudrait fort probablement répondre par l'affirmative à toutes ces questions. Comme ces mises en abyme cherchent, non à rompre, mais à permettre l'illusion référentielle, il serait en quelque sorte possible de « mesurer » les différents troublesen regard de l'homologie des situations : « Comment réagirions-nous si cela nous arrivait? » Nous allons d'ailleurs constater, en étudiant la réaction des personnages devant l'œuvre dont ils seront les simples récepteurs, comment ceux-là seront manifestement plus troublés que les personnages producteurs.
      
Mais il y a plus. Il se trouve, en effet, une autre façon d'entendre cette « homologie des situations » et, partant, une seconde question à laquelle il nous faudra répondre : Nous est-il permis (avec ou sans le personnage) de comprendre ce qui lui arrive ou bien son incompréhension est-elle aussi la nôtre? Nous pensons que si nous sommes dans une sorte de supériorité cognitive par rapport à la situation (nous comprenons ce que le personnage ne comprend pas) ou d'égalité cognitive (nous comprenons ce que le personnage comprend) – ce que nous considérerons comme un seul cas de supériorité cognitive –, nous serons portés à assister (plutôt qu'à participer) à son trouble. En revanche, nous pensons que si nous sommes dans une sorte d'infériorité cognitive par rapport à la situation (nous ne comprenons pas ce que le personnage ne comprend pas), nous serons portés à nous identifier et, du coup, à participer plus intimement à son trouble. Aussi, après avoir évoqué, plus haut, les différents degrés de similitude entre l'œuvre emboîtée et l'œuvre emboîtante, il nous faudra maintenant éclaircir, d'une part, les différents degrés de trouble qui pourront s'emparer du personnage et, d'autre part, établir les différents degrés d'identification qui pourront se tisser entre ce personnage et le spectateur.

Voyons d'abord des exemples dans lesquels nous serons en supériorité (ou en égalité) cognitive par rapport à la situation et dans lesquels, donc, nous devrions assister, plutôt que participer, au trouble du personnage. Cependant, bien que l'identification au personnage sera nulle dans un cas de supériorité cognitive et plutôt faible dans un cas d'égalité, il n'en demeure pas moins que le trouble pourra tout de même être plus ou moins grand. Il sera alors possible, du moins dans les cas d'égalité cognitive, de concevoir, d'une part, des cas où le personnage pourra connaître les circonstances de la production, présupposer que le producteur de l'œuvre ne connaissait pas du tout sa vie et que son intention n'était pas, conséquemment, d'en révéler quelque secret (les ressemblances ne seraient alors que fortuites et donc, moins troublantes) et il sera aussi possible de concevoir, d'autre part, des cas où le récepteur pourra connaître les circonstances de la production, présupposer que le producteur connaissait sa vie et que son intention était d'en révéler des secrets (les ressemblances seraient alors voulues et donc, un peu plus troublantes).

Prenons pour premier exemple le Hamlet de Fr. Zeffireli (1990). Pourquoi, alors que le roi (Alan Bates) assiste à une pièce de théâtre qui révèle le meurtre qu'il a commis (fig. 28), pourquoi, alors que ce meurtre est révélé à la face de la cours, pourquoi, alors qu'il se doute que quelqu'un, qu'il ne connaît pas mais qui le connaît pourtant très bien, pourquoi, alors que tous les éléments sont réunis pour offrir une des plus troublantes mise en abyme, pourquoi, donc, ne pouvons-nous pas vivre son trouble, mais plus simplement y assister? Parce que si le roi ne comprend pas ce qui lui arrive – le trouble se lit d'ailleurs clairement sur son visage (fig. 27) –, nous, nous le comprenons très bien. S'il ne sait pas qui est l'auteur de la pièce, nous, nous le savons. Ici, et bien que le trouble (du personnage) soit grand, et bien que nous puissions en comprendre la nature, comme nous jouissons d'une certaine supériorité cognitive, nous ne pouvons nous identifier à lui et, conséquemment, être troublé comme lui.

 Fig. 27                                                            Fig. 28


Le roi est troublé par les étranges ressemblances dont il est témoin. Cependant, nous savons, ce qu'il ne sait pas : la pièce est l'œuvre de Hamlet.

Mais il y aura aussi des cas où le personnage se retrouvera devant une œuvre dont il connaîtra (et nous avec lui) les circonstances de la production. Il y aura alors une sorte d'égalité cognitive par rapport à la situation. Cette égalité ne sera pas cependant un critère assez fort pour permettre l'identification. On pourra toutefois mesurer, dans de tel cas de figure, les degrés du trouble du personnage selon le savoir qu'aurait, sur lui, le producteur de l'œuvre devant laquelle il se trouve. En effet, le personnage se retrouvant devant une œuvre entretenant des relations de similitudes avec sa vie pourra présupposer que ces ressemblances seront, tantôt voulues (ce serait notamment le cas des œuvres intradiégétiques dont la production serait contemporaine à la vie du personnage), tantôt fortuites (ce serait notamment le cas des œuvres extradiégétiques ou des œuvres intradiégétiques dont la production est antérieure ou parallèle à la vie du personnage). On comprend donc que, bien qu'il ne nous sera donné que d'assister – plutôt que de participer – au trouble des personnages, ces troubles se mesureront toujours à l'aune de la réaction que nous aurions dans un cas semblable. Un personnage – et nous avec lui – pourra donc, tout en connaissant les circonstance de la production, être quelque peu troublés par une œuvre dont les ressemblances seraient fortuites, ou fortement troublé par une œuvre dont les ressemblances seraient voulues.

Il y aura donc des cas où le personnage connaîtra les circonstances de la production, présupposera que le producteur connaissait sa vie et que les ressemblances sont donc voulues. Dans la plus récente version de Hamlet (M. Almereyda, 2000), la pièce est devenue un film, et de surcroît un film d'« auteur », Hamlet lui-même en l'occurrence (fig. 29 à 31).

 Fig. 29                                   Fig. 30                                    Fig. 31

Le roi (Kyle MacLachlan) sait donc que son neveu sait (son nom est écrit au générique). Il est donc probable qu'il soit pris d'un trouble plus grand – on le lit, ici encore, sur le visage du personnage (fig. 32) en cela qu'il sait que cette œuvre (fig. 33) lui est destinée et que les similitudes ne sont pas fortuites. Encore une fois, si nous pouvons mesurer son trouble à l'aune de notre propre réaction, nous ne pouvons toutefois qu'y assister. Nous pourrions très bien, nous aussi, nous retrouver devant une œuvre qui nous serait destinée et dans laquelle nous pourrions trouver quelques ressemblances avec notre propre vie, ressemblances voulues qui ne seraient pas sans produire un trouble certain. Mais ici, puisque nous comprenons (comme le roi) la situation, l'identification ne peut être que faiblement lancée.

 Fig. 32                                                           Fig. 33


Le roi est fortement troublé par un film (The Mousetrap, de Hamlet) qu'il sait – tout comme nous –lui être destiné et dont les ressemblances avec sa vie sont voulues.

Mais il y a aura encore des cas où le personnage connaîtra les circonstances de la production, mais où il pourra en revanche présupposer que le producteur ne connaissait pas sa vie et conclure que les ressemblances ne sont que fortuites. On en trouve un exemple dans cette séquence de Twelve Monkeys (T. Gilliam, 1995) où, assistant malgré lui à Vertigo (fig. 35), James Cole (Bruce Willis), spectateur ébahi peinant à faire des liens entre ce qui arrive sur l'écran et ce qui lui arrive dans la vie, avoue, stupéfié, à Kathryn Railly (Madeleine Stowe) : « It's just like what's happening to us! » (fig. 34). James sait – tout comme nous – que cette œuvre ne lui est pas destinée et que les similitudes ne sont que fortuites. Ainsi, comme nous pourrions très bien, nous aussi, nous retrouver devant une œuvre qui ne nous est pas destinée, mais dans laquelle cependant, nous pourrions trouver quelques ressemblances avec notre propre vie – ressemblances fortuites qui ne seraient pas sans produire quelque trouble –, il est permis de croire que son trouble est moindre que celui que recevrait une personnage devant une œuvre dont les ressemblances seraient voulues. Mais encore une fois, puisque nous comprenons (comme James) la situation, l'identification ne peut être que faiblement lancée.

 Fig. 34                                                            Fig. 35


James est quelque peu troublé par un film (Vertigo, d'A. Hitchcock) qu'il sait – tout comme nous – ne pas lui être destiné et dont les ressemblances avec sa vie ne pourraient être que fortuites.

Pourquoi maintenant, alors que le roi est déconcerté par les similitudes entre The Mousetrap et les circonstances dans lesquelles il a tué son frère et que Scottie – pour poursuivre avec Vertigo – est intrigué par les ressemblances entre le tableau que regarde Madeleine et la situation dans laquelle celle-ci le regarde (fig. 33 et 34), pourquoi donc serions-nous beaucoup plus portés à assister aux emportements du premier et à participer plus intimement àl'incompréhension du second? Parce que, si le roi ne sait pas qui a écrit la pièce, nous, en revanche, nous le savons et que si Scottie ne sait pas qui a peint le tableau, nous ne le savons pas non plus – nous ne comprenons pas, comme lui, les étranges ressemblances dont il est (et dont nous sommes) témoin(s) [7]. Ici, l'homologie des situations est beaucoup plus grande.

 Fig. 33                                                            Fig. 34


Scottie ne comprend pas – et nous ne comprenons pas avec lui – les étranges ressemblances dont il est témoin. Nous ne savons pas ce qu'il ne sait pas.

Un autre exemple pourrait être tiré du film d'horreur fantastique I, Madman (1989, T. Takács). Les ressemblances entre le livre I, Madman (fig. 35) que lit Virginia (Jenny Wright) et ce qui lui arrive, la trouble visiblement (fig. 36) – et nous trouble avec elle – par l'incompréhension devant laquelle nous sommes (elle comme nous) victimes. En effet, il appert que ce n'est pas tant ce qui lui arrive dans sa vie qui arrive dans le livre, que ce qui arrive dans le livre qui arrive dans sa vie. Le scientifique du roman s'est en quelque sorte matérialisé et réalise les meurtres macabres qui sont décrits dans le roman.

 Fig. 35                                                           Fig. 36


Virginia ne comprend pas – et nous ne comprenons pas avec elle – comment les meurtres du roman peuvent se réaliser pour vrai.

Il en sera sensiblement de même de l' « œuvre » (les guillemets sont ici nécessaires) mise en abyme dans les films Lost Highway (D. Lynch, 1997) et Caché (M. Haneke, 2005), « œuvre » dont nous ne connaissons pas, tout comme les personnages d'ailleurs, le « producteur ». Dans les deux films, les personnages – Fred Madison (Bill Pullman, fig. 38), dans l'un, Georges Laurent (Daniel Auteuil, fig. 39), dans l'autre – reçoivent régulièrement d'étranges cassettes vidéo (fig. 37 et 40). Celles-ci reprennent trait pour trait des pans exacts de leur vie (en fait, ils ont été filmés à leur insu) [8]. Comme ils ignorent qui les a ainsi filmés, l'inquiétude, évidemment, les gagne. Or, comme nous ne connaissons pas, nous non plus, la provenance de ces cassettes – comme il y a une très nette homologie des situations entre leur savoir et le nôtre –, il y a fort à parier que nous participerons plus intimement au trouble qui s'empare d'eux. Comme dans Hamlet, l'œuvre dans l'œuvre est produite par quelqu'un que le personnage ne connaît pas, mais qui lui, le connaît bien. La différence cependant tient en ceci que, si nous connaissons, contrairement au roi, l'auteur de The Mousetrap, nous ne connaissons pas, comme Fred et Georges, l'auteur des cassettes.

 Fig. 37                                                            Fig. 38


Fred (Bill Pullman) ne comprend pas – et nous ne comprenons pas avec lui – les étranges ressemblances dont il est témoin. Nous ne savons pas, nous non plus, de qui provient la cassette.

  Fig. 39                                                          Fig. 40


Georges (Daniel Auteuil) et Anne (Juliette Binoche) ne comprennent pas – et nous ne comprenons pas avec eux – qui peut bien leur envoyer ces cassettes. Aussi est-il tout à fait normal que l'inquiétude les (et nous) gagne.

On le comprend, il y a de fortes chances que l'on soit porté à assister au trouble qu'un personnage éprouve devant une œuvre dont il ignore – mais dont on connaît – le contexte de production (Hamlet), tandis qu'il y a de fortes chances que l'on soit porté à participer au trouble qu'un personnage éprouve devant une œuvre dont il ignore – et dont on ignore aussi – le contexte de production (Vertigo, I, Madman, Lost Highway et Caché). L'homologie des situations nous conduit donc à participer plus intimement, plutôt qu'à assister de façon détachée, au trouble du personnage qui, comme nous, ne comprend pas ce qui lui arrive. Nous pourrions enfin, avant de conclure, revenir à notre tableau et répondre à la quatrième question que nous avions posée.

Cette quatrième et dernière étape nous aura permis de mesurer, encore plus précisément, d'une part, le degré de trouble qui pouvait gagner le personnage récepteur d'une œuvre et, d'autre part, le degré d'identification du spectateur à ce personnage. Nous aurons ainsi montré que l'ignorance du personnage quant aux circonstances de la production de l'œuvre pouvait le troubler fortement et que la connaissance du personnage quant à ces circonstances pouvait le troubler faiblement. Mais nous aurons aussi montré que la connaissance du spectateur quant aux circonstances de la production de l'œuvre pouvait le conduire à s'identifier faiblement au personnage et que l'ignorance du spectateur quant à ces circonstances pouvait le conduire s'identifier plus fortement au personnage. Dès lors, on aura compris que le trouble, loin de provenir d'un bris dans l'illusion référentielle, provenait de l'identification au personnage. Aussi, c'est parce que ces dernières œuvres ne brisent pas l' « illusion » que les mises en abyme sont troublantes.

Conclusion

Nous espérons l'avoir montré clairement, c'est parce que certaines œuvres spéculaires ont créé des « effets réalistes », se sont ingéniées à produire de cohérentes « représentations » et ont permis l' « illusion référentielle », qu'elles ont été troublantes. Mais nous avons aussi montré, en revanche, que dans d'autres cas, c'était plutôt parce que ces œuvres auront brouillé tout « effet réaliste », auront provoqué des « ratés dans la représentation » et auront sapé l' « illusion référentielle », qu'elles auront été troublantes. En accordant une attention particulière aux producteur et récepteur des œuvres emboîtés, on a ainsi pu comprendre pourquoi certaines de ces mises en abyme troublaient les personnages tandis que d'autres ne pouvaient pas en faire autant. On aura aussi pu comprendre pourquoi d'autres nous auront troublés sans pourtant troubler les personnages.

On aura également pu comprendre pourquoi d'autres, bien que troublant les personnages, n'arrivaient cependant pas à nous troubler et pourquoi d'autres enfin ne nous troublaient que parce qu'elles troublaient les personnages. Nous avons vu que, dans la plupart des cas, le trouble, quand il n'était pas causé par l'œuvre même (comme dans Crime and Misdemeanors, Airplaine!, 8 Femmes, Week-end, Saboteur, Fright Night, Being John Malkovich, etc.), était causé par l'homologie des situations entre le spectateur et le personnage. C'est cette homologie des situations qui aura permis, plutôt que de briser l'illusion, de l'entretenir, de permettre l'identification au personnage et de réagir à la situation que celui-ci vivait un peu comme nous réagirions à une situation semblable si celle-ci nous arrivait. Dès lors, il était recevable d'admettre que nous pouvions mesurer les degrés de troubles subis par le personnage à l'aune des troubles qui nous gagneraient dans une situation semblable.

À l'instar des personnages, nous ne pouvions pas être troublés par une œuvre entretenant de fortes relations de similitude avec notre histoire si nous en étions nous-mêmes le producteur (Being John Malkovich, Annie Hall, Pee-wee's Big Adventure, House by the River, etc.), nous le serions probablement un peu plus si nous en étions les simples récepteurs (Hamlet (2000), House by the River , Twelve Monkeys, etc.) et nous le sûrement serions beaucoup plus si, en plus d'en être les simples récepteurs, nous ignorions les circonstances de sa production (Hamlet (1990), Vertigo, I, Madman, Lost Highway, Caché, etc.). Cependant, nous avons également pu montrer que notre trouble pouvait, dans les cas où l'identification avec le personnage récepteur était possible, être plus ou moins grand selon qu'on en savait plus, autant ou moins que lui quant à la situation qu'il vivait. Les exemples que nous avons conviés pour valider notre hypothèse et étoffer nos propositions nous ont donc conduit à établir une échelle de similitude, de trouble et d'identification que pouvait causer la mise en abyme simple.

Jean-Marc Limoges
Montréal, Août 2007

BLÜHER, Dominique, Le cinéma dans le cinéma : film(s) dans le film et mise en abyme,  (Thèse de doctorat sous la dir. de Roger Odin), Paris III, 1996, 367 f.

DÄLLENBACH, Lucien, Le récit spéculaire. Essai sur la mise en abyme, Paris, éd. du Seuil, coll. « Poétique », 1977, 247 p.

DÄLLENBACH, Lucien, « Mise en abyme », in Dictionnaire des genres et des notions littéraires, Paris, Enc. Universalis et Albin Michel, 1997, pp. 11-14

FÉVRY, Sébastien, La mise en abyme filmique. Essai de typologie, Liège, éd. de fournitures et d'aides pour la lecture, coll. « Grand écran, petit écran. Essais », 2000, 175 p.

LECONTE, Bernard, L’écran dans l’écran et autres rectangles scopiques, Paris, éd. L’Harmattan, coll. « De visu », 2004, 93 p.

METZ, Christian, Essais sur la signification au cinéma (Tome I), Paris, éd. Klincksieck, coll. « d’esthétique », 1968, 244 p.

UNWIN, Timothy Andrew, Textes réfléchissants. Réalisme et réflexivité au dix-neuvième siècle, Bern, Peter Lang, coll. « French studies of the Eighteenth and Nineteenth Centuries », 2000, 216 p.