Teshi, with a unique small yud

In Haazinu, we encounter tzur yeladcha teshi:

יז יִזְבְּחוּ, לַשֵּׁדִים לֹא אֱלֹהַּ-- {ר} אֱלֹהִים, לֹא יְדָעוּם; {ס} חֲדָשִׁים מִקָּרֹב בָּאוּ, {ר} לֹא שְׂעָרוּם אֲבֹתֵיכֶם. {ס}	17 They sacrificed unto demons, no-gods, gods that they knew not, new gods that came up of late, which your fathers dreaded not.
יח צוּר יְלָדְךָ, תֶּשִׁי; {ר} וַתִּשְׁכַּח, אֵל מְחֹלְלֶךָ. {ס}	18 Of the Rock that begot thee thou wast unmindful, and didst forget God that bore thee.

which based on the rules of Biblical parallelism probably means just what JPS asserts it to mean, that "you were unmindful of the Rock that begot thee."

Indeed, so says Rashi, giving this as peshat, though still giving a derasha from the Sifrei:

You forgot: Heb. תֶּשִׁי, you have forgotten. However, our Rabbis explained this word homiletically to mean: When God comes to bestow good upon you, you provoke Him to anger, and weaken (מַתִּישִׁין) His power, as it were, to do you good."- [Sifrei 32:18]

תשי: תשכח. ורבותינו דרשו, כשבא להיטיב לכם אתם מכעיסין לפניו ומתישים כחו מלהיטיב לכם:

As Minchas Shai notes, the yud in teshi is small, and it is unique in all of Scriptures in that respect. He ties the small yud to this derasha, that the strength of the Former has been exhausted by their misbehavior.

He didn't make this up, but it rather seems like Vayikra Rabba makes this connection. Thus, at the end of Vayikra Rabba Acharei Mot:

רבי יהודה ברבי סימון בשם ר' לוי בן פרטא:

כתיב: (דברים לב)צור ילדך תשי, התשתם כחו של יוצר.

משל לצייר שהיה יושב וצר איקונין של מלך משהוא גומרה באו ואמרו לו:

נתחלף המלך! מיד תשו ידיו של יוצר.

אמר: של מי אצור, של ראשון או של שני?

כך כל ארבעים יום הקדוש ברוך הוא עוסק בצורת הולד ולסוף ארבעים יום היא הולכת ומקלקלת עם אחר?!

מיד רפו ידיו של יוצר.

אמר: של מי אצור, של ראשון או של שני?

הוי,צור ילדך תשי התשת כחו של יוצר.

יו"ד זעירא ולית בקרייה כוותה.

אמר ר' יצחק:

מצינו כל עוברי עבירות:

הגונב נהנה והנגנב מפסיד,

הגוזל נהנה והנגזל מפסיד.

ברם הכא שניהם נהנין.

מי מפסיד?

הקב"ה הוא מאבד סימניו.

Where the small yud, I suppose, it the mark of Hashem, and so Hashem "loses" this. This is an interesting construction, since it was written in Aramaic, and clearly looks like a masoretic note. And the midrash comments upon it.

And an excerpt from Bamidbar Rabba:

מהו וסתר פנים ישים?

הקב"ה שהוא יושב סתר ישים פנים של נואף באותו העובר, לפי שהנואף והנואפת רוצין שלא תתעבר, אלא שיעשו תאוותן בלבד והקב"ה מפרסמן בעולם, כדי שידעו הבריות ויאמרו: פנים של זה הם פני הנואף שצר צורת העובר בדמות הנואף. הוי, וסתר פנים ישים.

ולפיכך נקרא זימה לפי שהן כופרין שניהם ואומרים: לא עברנו עבירה והבריות אומרים: אם כן, זה מהו?

ולא תאמר בזמן שהיא מתעברת מן הנואף אותה שעה דומה צורת הולד לצורת הנואף אלא אפילו היא מעוברת מבעלה ובא עליה הנואף, הקב"ה מהפך צורת הולד לצורת הנואף.

וכן הוא אומר: (דברים לב) צור ילדך תשי.

א"ר יצחק:

הנואף הזה כביכול מרשל כוח השכינה.

כיצד?

העובר שהיא מתעברה מן האיש צר צורתו בתוך מ' יום לאחר מ' יום הנואף בא עליה, והקב"ה עומד ותוהה, ואומר: של מי אצור של צורת הבעל או של צורת הנואף?

כביכול, צור ילדך תשי.

יו"ד של תשי זעירה, תש ידי הצייר.

and an excerpt from Tanchuma on parshat Naso:

אמר רבי יצחק:

גדול כוח הנואף, שהוא מכשיל כוח השכינה.

כיצד?

העובר שהוא מתעבר מן האיש, הקדוש ברוך הוא צר צורתו לארבעים יום.

שכן שנו רבותינו:

לארבעים יום, צורת העובר ניכר.

לאחר ארבעים יום, הנואף בא עליה, והקדוש ברוך הוא עומד ותוהה ואומר, של מי אצור, של צורת הבעל או של צורת הנואף. כביכול, צור ילדך תשי (דבר' לב יח).

יו"ד זעירא, תשש ידי הצייר.

אמר רבי אבהו:

משל למה הדבר דומה?

לצייר שהיה צר אקונין של מלך, בא לגמור הפרצוף, אמרו לו: מת המלך ועמד מלך אחר.

כיון ששמע הצייר כן, נתרשלו ידיו.

התחיל אומר: מה אעשה באלו הסימנין. אם אצור אותן בצורת המלך הראשון או בצורת השני. התחיל תמה.

כן האיש משמש עם אשתו, הקדוש ברוך הוא צר צורת העובר בדמות אביו. חזר הנואף ובא עליה, חזר ונתערבו הסימנין, שנאמר: אלה וכחש ורצוח וגנוב ונאוף פרצו ודמים בדמים נגעו (הושע ד ב).

מה עשה הקדוש ברוך הוא?

כביכול חזר והפך את הצורה שצר בתחילה בדמות הבעל, לדמות הנואף. הוי, וסתר פנים ישים:

And you can see Rabbi Menachem Rikanti's perush here. He makes the perhaps non-obvious point that after tzur yeladcha teshi, the pasuk concludes וַתִּשְׁכַּח, אֵל מְחֹלְלֶךָ. And that vatishkach can be broken into two words, namely tash koach, and this is where it got it from. Therefore, the yud is small. And he also contrasts it, in meaning, to a pasuk with a large yud.

Perhaps every large or small letter was deliberately decided as such in order to teach a midrashic lesson. But if it was not initially intended for midrash, is there any peshat reason for it?

One possibility is that this is Biblical poetry, which means that it is rather archaic Hebrew. And therefore, perhaps the final yud should not be written, though it might still be pronounced. In cases where the pasuk should be, perhaps, written without the letter present, the letter is written, but small. Thus, the aleph in Vayikra.

One other interesting point is that the masoretic note declared that only this yud was small. And this is a tradition which is found in all these midrashim. Yet the Zohar has another small yud, which it darshens! See my discussion of the small yud in Pinchas, here and here.