Ces trois verbes homonymes diffèrent par le sens et par leur étymologie. Le verbe bailler est issu du latin bajulare, « porter », puis, en latin médiéval, « administrer ; se charger d’une fonction », bajulare dérivant lui-même de bajulus, qui désignait un portefaix. Bailler est ainsi parent de bail, son déverbal, mais aussi de bailli, dont on ne sait s’il est dérivé de l’ancien verbe baillir, qui signifiait « administrer », ou issu du latin médiéval bajulivum, « gestion d’un domaine ». Il est aussi lié, dans une langue plus populaire, à baille, « eau » (jeter quelqu’un à la baille), notre portefaix étant souvent un bajulus aquae, un « porteur d’eau ». Baille a d’ailleurs d’abord désigné un baquet servant à divers usages puis, par métonymie, l’eau qu’il contenait. Aujourd’hui bailler signifie « donner, mettre à la disposition de quelqu’un ». La langue des contrats dit bailler à ferme, mais une autre, plus populaire et poétique dit Vous me la baillez belle (ou bonne) pour « vous cherchez à m’en faire accroire ».
Les deux autres verbes, bâiller et bayer, ont une origine commune ; ils remontent l’un et l’autre au latin populaire badare, que l’on trouve aussi écrit batare. Ces verbes sont formés à partir de l’onomatopée bat-, employée pour imiter le bruit d’un bâillement. On dit ainsi bâiller à se décrocher la mâchoire, bâiller d’ennui ou encore bâiller comme une carpe. Mais si la carpe bâille ce n’est pas parce qu’elle s’ennuie, mais parce qu’elle dépérit quand elle est privée d’eau. On lit ainsi, dans Madame Bovary, ces pensées cyniques de Rodolphe au sujet d’Emma : « Et on s’ennuie ! on voudrait habiter la ville, danser la polka tous les soirs ! Pauvre petite femme ! Ça bâille après l’amour, comme une carpe après l’eau sur une table de cuisine. Avec trois mots de galanterie, cela vous adorerait, j’en suis sûr ! ce serait tendre ! charmant !... Oui, mais comment s’en débarrasser ensuite ? »
Reste le verbe bayer, issu lui aussi de batare. On ne le rencontre plus aujourd’hui que dans l’expression bayer aux corneilles ou, comme dans Les Contes cruels de Villiers de l’Isle-Adam, aux grues, que l’on emploie au sujet de qui perd son temps les yeux dans le vague. Dans son Thresor de la langue francoyse, Nicot voit l’origine de cette expression dans le mouvement des nourrissons qui miment la succion en ouvrant la bouche les yeux tournés vers leur nourrice. Ainsi, à l’article bayer, il donne comme exemple d’emploi bayer à la mamelle qu’il traduit en latin par appetere mammam.
Quant à Littré, il s’est intéressé à la prononciation de ce verbe : « Plusieurs prononcent béié, ce qui vaudrait mieux. […] Il serait à désirer que la prononciation de ce verbe fût bé-ier et non ba-ier, tant à cause de l’analogie avec payer et de l’ancienne orthographe et prononciation beer [béer est en effet le doublet populaire de bayer], que pour le distinguer de bâiller. Ces deux verbes en effet ont été souvent confondus, et le sont encore. La Fontaine a dit : “C’est l’image de ceux qui bâillent aux chimères” et “Le nouveau roi bâille après la finance.” »
On essaiera bien sûr de ne pas confondre ces trois formes, mais l’erreur de ce grand écrivain nous invite naturellement à l’indulgence pour qui la reproduirait…