À λ = 0,65 µm, pour une ouverture de 3, la tache tient facilement sur un pixel, par contre si elle est positionnée au milieu de la séparation, le bord gauche se positionnera à -0,805 du centre. En se reportant à cette position sur la courbe rouge on voit que la valeur est de 0,26, c'est ce qui est recueilli par le pixel à gauche de la séparation. Le bord droit de la séparation est à +0,805 la lecture sur la courbe verte nous donne également 0,26. C'est ce qui concerne le pixel à droite de la séparation. La valeur totale est donc 0,52, l'énergie perdue par une bande de coupe est donc de 0,48.
Si la tache est centrée sur un croisement de séparation vertical et horizontal sur le CCD, on a la même coupure dans l'autre axe, mais il y a un tronçon commun de perte dont on peut calculer la valeur :
- la base est la surface correspondant au carré défini par le croisement des bandes ;
- la hauteur est estimée comme étant la valeur de 1 au point de coupe, plus le 1/3 de la différence entre le point de coupe et 1 ( pour tenir compte de la forme conique de la tache).
Le volume ainsi trouvé est divisé par le volume total et ceci représente la part d'énergie perdue commune. Le calcul effectué sur le tableur donne 0,22.
Ce qui sur les deux axes donne une perte de : 0,48 + 0,48 - 0,22 = 0,74.
L'énergie récupérée est donc de 0,26, répartie à égalité sur 4 pixels. Par contre, la valeur recueillie sur un pixel avec une tache dont la totalité est sur le pixel est 1. Le signal de sortie varie de 1 à 0,26 suivant le positionnement de la tache sur le CCD. On peut tracer les bornes des pixels et des séparations sur papier calque pour les valeurs de l'ouverture à une longueur d'onde donnée et faire glisser ceci sur la courbe et ainsi avoir l'énergie reçue pour chaque position de la tache sur la surface du CCD et tracer une courbe (mais nous ne somme pas des Bénédictins).
Pour les déplacements horizontaux, il n'y a pas de problème car l'exposition se fait sur une trame. Par contre, pour les déplacements verticaux, les expositions se font sur des trames différentes.
Simulation à F/D = 15, les deux cas extrêmes suivants peuvent se produire :

Dans ce cas les coupures, à droite et à gauche, se font à 0,45, la puissance récupérée est de 0,9 dont il faut soustraire les parties résiduelles au contact des bandes à droite et à gauche de la bande centrale. Pour les deux axes, il faut doubler la perte en tenant compte de la partie commune.

Avec cette dernière figure le mode opératoire est un peu différent. Prenons la bande de gauche, son bord droit coupe la courbe rouge à 0,130. Sur la bande de droite, le bord gauche coupe la courbe à 0,130.
L'énergie existant sur le pixel central est donc : 1 - 0,130 × 2, soit 0,74. Il faut y ajouter ce qui existe sur les pixels adjacents, soit 0,09 × 2 = 0,18, le total est donc : 0,74 + 0,18 = 0,92 sur un axe. Sur deux axes, il faut évidemment doubler la perte en tenant compte des pertes communes aux 4 bandes concernées.
Pour mieux représenter ce qui ce passe, voici deux figures représentant les taches sur la matrice CCD pour les cas évoqués ci-dessus pour différentes ouvertures.

Ces deux cas représentent les cas extrêmes pour l'énergie obtenue sur la caméra.
Une série de calculs a été faite sur le tableur en interpolant les valeurs (extrait de diffractairy.xls, 599 ko) :
| λ = 0,65 µm | F/D = 3,5 | F/D = 7 | F/D = 10 | F/D = 15 |
|---|---|---|---|---|
| centré sur 1 pixel | 1,000 | 0,991 | 0,896 | 0,810 |
| centré sur séparations | 0,336 | 0,615 | 0,720 | 0,796 |
Les résultats de calcul pour les différents F/D sont résumés dans le tableau ci-dessus et la courbe jointe donne une idée de la réponse qui tend vers environ 80% pour les fortes valeurs de F/D.

Le tracé supérieur est du au fait qu'au début le pixel est plus grand que la tache à cette longueur d'onde, ensuite il y a une symétrie par rapport à une valeur asymptotique qui se situe aux alentours de 80%. Quand on est en F/D = 7, la variation de l'un à l'autre des cas est de près de 40%.
Heureusement qu'il y a de la turbulence !
Au niveau réponse de la caméra, deux cas extrêmes (soit centré sur pixel ou séparations) sont montrés ci-dessous :

Dans un cas on voit que le partage par trame est inégal, dans l'autre symétrique mais de valeur moitié. Comme il y a peu de chance de se retrouver sur l'une ou l'autre de ces positions, on peut, tout au plus, savoir que l'étoile au moment de la disparition était ou non sur les deux trames. On voit que la photométrie dans ce cas ne peut pas être très précise et en tout cas pas sur les trames séparées.
Lorsque le diamètre d'un instrument est faible, pour avoir de la luminosité on travaille avec des courtes focales, le seul risque est d'avoir des variations de l'ordre de 70% sur le niveau de sortie selon la position de la tache sur les pixels et de 0 à 80% d'une trame à l'autre. L'utilisation d'une Barlow atténue les variations mais fait perdre sur les magnitudes des étoiles.
Pour un diamètre plus important on peut utiliser une focale plus importante et bénéficier d'une meilleure stabilité de mesure tout en gardant une bonne sensibilité. Il y a tout de même une perte d'énergie de l'ordre de 20%.
De toutes façons les mesures de photométrie doivent se faire sur une image et non sur les trames séparées, la seule amélioration possible dans la mesure du temps est la présence ou non du corps occulté sur l'une ou l'autre trame, mais la valeur photométrique trouvée n'est pas représentative du phénomène.
La dernière mesure avant occultation doit être interprétée comme étant liée au temps d'exposition, une valeur égale à la moitié de la précédente indique un temps de pose de 10 ms, si le niveau est plus faible l'occultation a eu lieu pour un temps de pose inférieur à 10 ms, s'il est plus fort la durée est plus grande. Ceci peut être masqué par la diffraction importante dans cette zone.
