Counting a Mumar to a Minyan- a little he'ara.

Rabbeinu Bachaya Vayikra 22:23 bringing from Rabbeinu Tam that the nusach of the Gemara we have is imprecise.

ובמדרש זה מצות עשה שבתורה לקדש את השם ברבים, וכך דרשו רז"ל ונקדשתי בתוך בני ישראל מסור עצמך לקדש את שמי, יכול ביחיד, ת"ל ונקדשתי בתוך בני ישראל. וכשהוא מוסר את עצמו ימסור עצמו על מנת למות, שכל המוסר עצמו על מנת הנס אין עושין לו נס, שכן מצינו בחנניה מישאל ועזריה שלא מסרו עצמן על מנת הנס שנאמר (דניאל ג׳:י״ח) והן לא ידיע להוא לך מלכא די לאלהך לא איתנא פלחין ולצלם דהבא די הקימת לא נסגד, מציל ולא מציל ידיע להוא לך וגו'. ועוד הוכיחו רז"ל מן הכתוב הזה שכל דבר שבקדושה צריך עשרה, והוא שאמרו בברכות אין דבר שבקדושה בפחות מעשרה שנאמר ונקדשתי בתוך בני ישראל, וכתיב התם (במדבר ט״ז:כ״א) הבדלו מתוך העדה, מה להלן עשרה אף כאן עשרה. ופירש ר' יעקב שאין נוסחא זו מדוקדקת שאין להביא ראיה מעשרה מרגלים לדבר שבקדושה, אבל עיקר הנוסחא היא כן, אתיא תוך תוך כתיב הכא ונקדשתי בתוך וכתיב התם (בראשית מ״ב:ה׳) לשבור בתוך הבאים, מה להלן עשרה אף כאן עשרה, ועכשיו יביא ראיה מעשרה אחי יוסף שהיו צדיקים לדבר שבקדושה.

Reb Moshe in the Igros 1:23

נשאלתי מתלמידי הרב ר' אברהם יוסף ראזענבערג שליט"א אם יש בשעת הדחק לצרף מחללי שבתות לעשרה, והשבתי דלמנהגנו שאף בשביל יחיד פורסין על שמע ואומרין קדושה כתלמידי רש"י בשם רש"י שהביאו תוס' במגילה דף כ"ג ואיפסק כן בש"ע או"ח סי' ס"ט יש לצרפם, דהא כיון שמקרא אחד ילפינן הדין בקדוש השם ליהרג בשאר עבירות שהוא בעשרה, והדין שאין אומרין דבר שבקדושה בפחות מעשרה, ולכן כשם שקדוש השם ליהרג הוא מחוייב אף לפני עשרה כופרים ומומרים אם אף הם מישראל כדמוכח כן מהא דסנהדרין דף ע"ד דפשיט בעית ר' ירמיה בתשעה ישראל ונכרי אחד שאינו מחוייב אלא בכולהו ישראל דאתיא תוך תוך ממרגלים שהיו כולהו ישראל כדפרש"י והתם הא היו כופרין בפרהסיא שגריעי ממחללי שבתות עיין בערכין דף ט"ו אלמא שלזה עדיפי מומרים מנכרים א"כ בהכרח שגם לענין לומר דברים שבקדושה מצטרפי.  

Rabbeinu Tam must distinguish between minyan for kiddush Hashem, which applies to any sort of Jew, and minyan for davar shebikdusha. The Pri Megadim (Siman 55 brought in MB there sk 46) also, I think, has to make this distinction. 

או שעבר עבירה - כתב הפמ"ג דוקא עבירה שעבר לתיאבון אבל להכעיס אפילו בדבר אחד או שהוא מומר לע"ג או לחלל שבת בפרהסיא דינו כעכו"ם ואינו מצטרף:

But it is difficult in the Gemara that excludes Nochri echad and requires all Yisrael, implying any kind of Yisrael counts in cases of ונקדשתי for kiddush Hashem barabbim.

In any case, we see that Rabbeinu Tam learned the Gemara like Reb Moshe, but because of the dissonance, he said our nusach of the Gemara is not correct. Reb Moshe accepts the nusach of the Gemara as we have it, especially since the Gemara uses it in the context of chillul and kiddush Hashem be'rabbim to include kofrim.